Anthropic最強モデルが封鎖された24時間：3本の電話、大株主の裏切り、そして物語の支配権の喪失

6月13日、Anthropicの最先端モデル2つがアメリカ政府によって一時停止された。

1つはFable 5、もう1つはMythos 5だ。前者はつい先日公開されたばかりで、後者はより制限されたサイバーセキュリティ顧客向けだった。禁止措置はアメリカ商務省から発令され、アメリカ国外の顧客だけでなく、アメリカ国内の外国人にも適用された。Anthropicが最終的に選んだ選択肢はシンプルで、すべてを停止することだった。

この件に関するすべての詳細を確認し、この24時間のタイムラインを大まかに整理した。

6月11日木曜日、つまりFable 5が公開されてから2日後、AmazonのCEOアンディ・ジャシーがホワイトハウスにリスクを報告した。彼はFable 5のセーフティガードが回避される可能性を懸念していた。Amazonの研究者は、一連のプロンプトを通じて、本来制限されるべき情報をFable 5に出力させたとされ、その情報はサイバー攻撃に悪用される可能性があった。

6月12日金曜日の朝までに、この問題はホワイトハウスの最高レベルの会議に持ち込まれた。財務長官スコット・ベセント、ホワイトハウスのサイバー担当責任者ショーン・ケアンクロス、ホワイトハウス首席補佐官スージー・ワイルズ、その他の高官が議論に参加した。ベセントはヒューストンに向かう途中で、リモートで会議に参加した。

そして、3本の電話があった。

AnthropicのCEOダリオ・アモデイが通話に入ると、向かいには約半ダースの高官が座っていた。ベセントとケアンクロスに加え、商務長官ハワード・ラトニックもいた。他の参加者には、産業・安全保障担当商務次官ジェフリー・ケスラー、ホワイトハウス首席秘書官ウィル・シャーフ、ホワイトハウス副首席補佐官リチャード・ウォルターズ、大統領政策補佐官ウォーカー・バレットが含まれていた。

アモデイはこの件を誤解として説明しようとした。彼は、Amazonが発見したのは特定の回避方法であり、セーフティガードを広範囲に取り外せる汎用的なプロンプト脱獄ではないと考えていた。Anthropicは後に、テスターはモデルのセキュリティシステムを広範囲に回避する方法をまだ見つけていないと公に述べている。

しかし、ホワイトハウスは納得しなかった。

Amazon CEOの発見はアメリカ国家安全保障局に送られ評価され、ホワイトハウスは十分な証拠を入手したと判断した。政府はAnthropicに対し、自主的にモデルを停止し、政府と協力して脆弱性を修正するよう要求した。アモデイはより多くの時間と情報を求めたが、モデルを撤去する約束はしなかった。ベセントは電話で直接、彼が「誤った決断」をしたと述べた。

その後、輸出規制が発動された。

Anthropic側は別の説明をしている。彼らによると、ホワイトハウスはモデルを停止するよう90分しか与えず、実際の脅威の詳細も説明しなかったという。一方、ホワイトハウスは、輸出規制はAnthropicが数時間にわたって協力を拒否した後の最後の手段だったと述べている。

この件のもう一つの重要なポイントは、アマゾンの立場が微妙だったことだ。

2024年末、アマゾンはAnthropicに40億ドルを追加投資し、総投資額を80億ドルに引き上げた。Anthropicは同時にAWSを主要なトレーニングパートナーに設定し、将来のモデルトレーニングとデプロイにはAWSのチップを使用する。Claudeは常にAmazon Bedrock上で最も重要なモデルの一つである。

マイクロソフトとOpenAIの同盟はすでに明確であり、アマゾンがAnthropicに賭けるのは、本来はそれを回避する方法だった。

マイクロソフトにはOpenAIがある。グーグルにはGeminiがあり、Anthropicにも投資している。アマゾンには十分に強力な自社開発の最先端モデルがなく、AWSの計算能力、Trainiumチップ、Bedrockプラットフォームを外部のモデル企業に結びつけるしかなかった。

しかし、1年半後、アマゾンとOpenAIもつながった。

今年、アマゾンはOpenAIへの最大500億ドルの投資について協議していた。OpenAIは当時、最大1000億ドルの新規資金調達を求めており、潜在的な取引にはOpenAIがアマゾンのAIチップを購入することが含まれていた可能性がある。Axiosはまた、OpenAIの2025年の年間収益が200億ドルを超える一方で、支出コミットメントは1.4兆ドルに達すると報じている。

アマゾンは、最先端モデル企業がAWSの計算能力を消費し、自社開発チップを検証し、データセンターを満たすことを必要としている。また、最も強力なモデルを自社のエンタープライズクラウドの棚に並べる必要もある。これはもはや単なる財務投資ではない。

そのため、アマゾンはAnthropicに投資しつつ、OpenAIにも接近している。モデル企業のスポンサーであると同時に、モデル企業のサプライヤーでもある。モデルを販売する手助けをしつつ、政府に対してこれらのモデルがどれほど危険かを説明しなければならない。

結果的に、今回アマゾンはまずAnthropicの反対側に立った。Anthropicの目には、資金、クラウド、チップ、流通チャネルを提供するパートナーが、政府に禁止令を発動させるのに十分なセキュリティシグナルを提出したように映った。もちろん、アマゾン自身の説明は「ホワイトハウスが私に尋ねたので、私は彼らの質問に答えただけだ」というものだ。

過去2年間、AI企業は自らを国家級の資産として売り込むことを好んできた。能力が高ければ高いほど、評価額は上がり、資金調達は順調になり、政府調達の可能性も広がる。Anthropicは特にこのストーリー展開に長けている。同社はより慎重な安全性に関する言葉遣いでOpenAIとの差別化を図り、「フロンティアリスク」というレトリックで規制当局に対し、真剣に扱われるべき存在であることを証明してきた。

今、米国政府は実際にモデルを国家安全保障資産として扱い始めている。

ホワイトハウス当局者の困惑もここに起因する。Politicoの報道によると、ホワイトハウスのある当局者は、AmodeiがAnthropicの技術の危険性を核爆弾に例えるのを聞いたという。既知のセキュリティ上の脆弱性を理由にモデルを停止することを拒否した際、政府当局者はこれを技術的な意見の相違ではなく、姿勢の問題と捉えた。

今回が初めての衝突ではない。3月3日、国防総省はAnthropicをサプライチェーンリスクに指定した。その理由は、Anthropicが自社のAIツールを大規模な国内監視や自律型兵器に使用することを拒否したためだ。Anthropicと米国政府の間には、以前から確執があった。

そして今回、Anthropicは政府の指示が具体的な国家安全保障上の懸念を説明しておらず、透明性、明確性、技術的事実に基づく法定手続きを欠いていると批判した。Anthropicは、今回の問題はむしろ範囲の狭い回避策に過ぎず、これほど広範な禁止令を支えるには不十分だと主張している。

しかし、政府の視点では、モデルの安全性はもはや企業がホワイトペーパーを作成し、自社でレッドチームテストを実施し、システムカードを公開するといった内部プロセスではない。誰がモデルにアクセスできるか、誰がモデルを訓練できるか、外国人社員がモデルの重みを閲覧できるかといった点が、すべて輸出規制の枠組みに組み込まれつつある。

Anthropicが4月にMythosを限られたテクノロジー企業およびサイバーセキュリティ企業のみに開放すると発表した際には、すでにホワイトハウスと複数回の会議を重ねていた。Fable 5のリリース前にも、米国政府および英国AI安全研究所による審査を受けている。Anthropic側は、モデルリリース前に政府から反対意見は出されなかったと主張している。

これにより、衝突はさらに見苦しいものとなっている。

モデルリリース前は、安全性の協力。モデルリリース後は、国家安全保障。

OpenAIはこの事態を傍観している。

Anthropicが最強モデルの停止を余儀なくされれば、OpenAIの相対的な立場はより有利になる。Anthropicが規制問題に絡め取られれば取られるほど、OpenAIは「協力可能な」選択肢として浮上しやすくなる。Amazonが実際にOpenAIにさらに接近すれば、それも一層のヘッジとなる。

もちろん、アマゾンがOpenAIを支援するためにAnthropicを叩こうとしているという公的な証拠は存在しない。

より鋭い真実は、最先端モデルが兆ドル規模の資本支出サイクルに突入した今、パートナーシップはもはやクリーンではないということだ。クラウド事業者はモデル企業に投資し、モデル企業はクラウドの計算リソースを購入し、政府はクラウド事業者にセキュリティリスクを問い、競合他社は同じ規制の場で互いにレッドチームを組む。

資金提供者、サプライヤー、販売代理店、監査役という役割が、同じ企業群によって担われ始めている。

これは、あるプロンプトの脱獄よりも重要なことだ。

Fable 5とMythos 5が停止された夜、Anthropicが失ったのは、単に二つのモデルへのアクセス手段だけではない。自らのナラティブに対する支配権の一部を失ったのだ。

アマゾンの手は依然としてAWSコンソールに置かれている。OpenAIの資金調達テーブルはまだ解散していない。そしてアメリカ政府は、すでにモデル発表会の最前列に座っている。

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia