原文タイトル：Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic
原文著者：Sophia Cai and Cheyenne Haslett，Politico
編集：Peggy

編集者注：Anthropicが数日前にリリースしたばかりのFable 5モデルが、突然強制的にオフラインにされた。発端は、トランプ政権が国家安全保障を理由に、外国籍のユーザーによるAnthropicのFable 5およびMythos 5という2つの先進AIモデルへのアクセスを制限するよう求めたことにある。ユーザーIDとアクセス権限を正確に区別することが困難だったため、Anthropicは最終的に全顧客に対して該当モデルを無効化する選択をした。

この突発的なモデル停止の背景には、ホワイトハウスとAnthropicの間で24時間にわたって繰り広げられた激しい駆け引きがあった。Fable 5のセーフガードが回避可能かどうかをめぐり、AnthropicのCEOであるDario Amodeiは、財務省、商務省、ホワイトハウスのサイバーセキュリティ責任者など政府高官と複数回にわたる緊迫した電話会談を行った。政府は、このモデルがソフトウェアの脆弱性を特定するために悪用される可能性があり、国家安全保障上のリスクを構成すると判断。一方、Anthropicは、問題となった点は「汎用的な脱獄（ジェイルブレイク）」ではないと強調し、政府の行動が透明性、明確性、技術的事実に基づく法定手続きを欠いていると批判した。

この事件の本質は、単なるモデルの停止や、ホワイトハウスとAI企業との間のコミュニケーション不全にとどまらない。先進的なAIモデルが、潜在的な国家安全保障資産として再定義されつつあることを示している。モデルの能力がサイバーセキュリティ、脆弱性の探索、情報分析といったセンシティブな領域に及ぶにつれ、政府は企業の自己評価や自主的な審査に満足せず、輸出規制のようなより強硬な政策手段を用いて、モデルのリリースペースに直接介入し始めている。

皮肉なことに、AnthropicはAI業界の中で最も積極的に規制を求めてきた企業の一つでありながら、今や規制の鉄槌を受ける側となった。政府はAnthropicがセキュリティ上の脆弱性に対して十分に真剣に対応していないと見なし、Anthropicはホワイトハウスの過剰反応だと主張する。両者の対立の背後には、AI業界が今後直面しなければならない新たな問題が横たわっている。すなわち、モデルが十分に安全かどうかを判断する権限は誰にあるのか？企業が自ら安全性を証明するだけでは不十分なのか？国家安全保障の名の下に行われる迅速な介入は、AI企業のコンプライアンスコスト、リリースペース、そしてグローバルな競争環境をどのように変えていくのか？

Anthropicの事例は、先進AI規制における分水嶺となる可能性がある。今後、最先端のモデルのリリースは、単なる製品のローンチではなく、国家安全保障、地政学、資本市場、産業秩序が絡み合うハイリスクな展開として位置づけられるだろう。

以下が原文です：

トランプ政権がAnthropicに対して全面的な輸出規制を実施する前、ホワイトハウスの高官らは24時間にわたる緊急調停の中で、このAI企業に対し、リリースしたばかりの新モデルを自主的に公開停止するよう説得を試みていた。複数の政府高官は、このモデルが国家安全保障上のリスクを抱える可能性があると見なしていた。

2人の政府高官と1人のホワイトハウス高官によると、この騒動の中で、AnthropicのCEOであるDario Amodeiは、米財務長官Scott Bessentやホワイトハウスのネットワーク責任者Sean Cairncrossを含む複数の政府上層部と、緊張感あふれる電話協議を数回行った。この件について公に議論する権限がないため、関係者は匿名を条件に情報を提供した。

この出来事は、急速に進化し能力の限界が拡大し続ける高度なAIモデルに対して、ホワイトハウスがイノベーションと安全性の間でどのように線引きすべきかという、ますます緊急性を増す問題を浮き彫りにした。

これらの電話協議の詳細はこれまで報じられたことがない。

モデル公開停止前夜：安全性をめぐる論争

政府が輸出規制を実施した後、Anthropicは新モデル「Fable」の公開を余儀なくされた。このモデルは一般公開からわずか数日後だった。Anthropicは以前、モデルの安全性は管理可能であると外部に保証していたが、公開後まもなく、政府上層部はその安全対策が同社が主張するほど堅牢かどうかを再評価し始めた。

2人の政府高官と1人のホワイトハウス高官によると、木曜日、つまりFableが一般公開されてから2日後、AmazonのCEOであるAndy Jassyがホワイトハウスに対し、このモデルの安全対策が回避されるリスクがあるとの懸念を表明した。

Amazonの関連コミュニケーションに詳しい人物によると、Amazonは政府の要請に応じて、潜在的なリスクに関するフィードバックを提供していた。

金曜日の朝までに、この問題はホワイトハウスの最上層部にまで達していた。

政府高官とホワイトハウス高官によると、Bessent、Cairncross、ホワイトハウス首席補佐官Susie Wiles、および他の高官らが会議を開き、このモデルと政府の対応策について議論した。関係者の一人によると、Bessentはヒューストンでの既定の公開イベントに参加するため移動中であり、リモートで会議に参加した。

会議後、政府はAmodeiに連絡を試みたが、健康リトリートに参加しているため一時的に電話に出られないと伝えられた。1人の政府高官と1人のホワイトハウス高官がそう述べている。

Anthropicの広報担当者はこの主張を否定し、「それは全く事実ではありません」と述べた。

Anthropicに近い関係者によると、政府は正午頃に初めてAmodeiへの連絡を要請し、Amodeiは1時間15分以内に高官と電話で連絡を取ったという。この関係者は、Amodeiが一時的に応答できない間、Anthropicは他の幹部が代わりに対応することを提案したと述べた。

政府が最終的にAmodeiと連絡を取った後、彼は3回の電話会議に参加した。ホワイトハウスの高官と政府関係者によると、参加した政府高官は約6人で、Cairncross、Bessent、商務長官のHoward Lutnickが含まれていた。

ホワイトハウスの高官によると、他のホワイトハウススタッフや政府関係者も一部の電話会議に参加しており、商務省産業安全保障担当次官のJeffrey Kessler、ホワイトハウス文書秘書のWill Scharf、ホワイトハウス副首席補佐官のRichard Walters、大統領政策補佐官のWalker Barrettが含まれていた。

電話会議の中で、Amodeiは自身が誤解されていると考えている点を明確にしようと試みた。彼は政府のセキュリティ懸念に反論し、Anthropicの防御メカニズムを擁護し、これまでに発生した回避方法は特定のシナリオにおける問題であり、モデルがAnthropicの設定した安全ガードレールの制限を完全に脱する、より広範な意味での「ジェイルブレイク」には該当しないと強調した。

輸出規制が施行された後に公開されたブログ記事で、Anthropicは「現在のところ、テスト担当者は汎用的なジェイルブレイク方法——つまり、モデルの安全対策を広範囲に回避し、大量のネットワーク能力を解放できる方法——を発見していない」と述べている。また、Anthropicや他のAI企業にとって、すべてのジェイルブレイク試行を完全に排除することは現実的ではないとも述べている。

Anthropicは同時に自社のセキュリティシステムを擁護し、その防御メカニズムは「非常に強力であり、多くのユーザーが広範すぎると不満を述べるほどである」と述べた。

しかし、CairncrossとBessentはAmodeiの説明に納得しなかった。ホワイトハウスの関係者によると、Amazonの発見は米国家安全保障局（NSA）に審査のために提出され、NSAは関連資料が「証拠」として十分であると判断したという。

ホワイトハウスの高官と2人の政府関係者によると、政府はAnthropicに対し、自主的にモデルを削除し、政府と協力して脆弱性を修正するよう促した。Amodeiはより多くの時間と情報を求めたが、モデルの削除は約束しなかった。ホワイトハウスの高官によると、そのうちの1回の電話会議で、BessentはAmodeiに直接、彼が「悪い決断」をしていると伝えた。

規制の鉄槌が下る：Fable 5とMythos 5が規制対象に

電話会談終了後まもなく、トランプ政権はFable 5とMythos 5の2つのモデルに対して輸出規制を実施した。Anthropicによると、政府は国家安全保障上の権限を行使し、外国籍の市民によるこれらのモデルの使用を禁止したという。同社は、この命令の「実質的な効果」として、コンプライアンスを確保するためにAnthropicは関連モデルへの全顧客のアクセスを「突然無効化」せざるを得なくなったと述べている。

ホワイトハウスの高官は次のように述べている。「我々は数時間にわたり彼らと協力を懇願したが、輸出規制は最後の手段だった。これは我々が望んだことではないが、他に選択肢はなかった。」

報道後、Anthropicに近い関係者はこれに反論し、同社にはいわゆる「自発的な協力」の選択肢が与えられていなかったと述べた。

その関係者は次のように語る。「ホワイトハウスはモデルを撤去するよう90分の猶予しか与えず、実際の脅威に関する詳細は一切提供しなかった。懇願も、協力を求める要請も一切なく、ただ90分の最終期限が宣告されただけだ。」

ホワイトハウスの高官によると、政府関係者はAmodeiがAnthropicの技術の危険性を核爆弾に例えていたと聞いていたという。そのため、AI安全規制を一貫して主張してきたCEOが、既知のセキュリティ脆弱性を修正するためにシステムを停止することを拒否したことに、政府関係者は理解に苦しんだとされる。

Anthropicは長年にわたり、AI業界内で最も積極的に規制を訴える企業の一つと見なされてきた。同社は、AIの急速な発展がもたらす可能性のある世界的な安全保障リスクや雇用への影響に対処するため、規制の枠組みが必要だと繰り返し主張してきた。

政府の考えを知る3人の関係者によると、懸念を政府に伝えたのはAmazonだけではなかったという。

そのうちの1人は次のように述べている。「問題の核心は、Anthropicがこの件に対して十分な真剣さを欠いていたことだ。もしAnthropicが真剣に受け止め、単独の事件として軽く扱うのではなく、自ら修正するかアクセスを一時停止していれば、この事態には至らなかっただろう。」

一方、Anthropicに近い別の関係者は、いわゆる「脱獄」はFable 5のセキュリティシステムが機能しなくなったことを意味するわけではないと反論し、同社はFableのリリース前に政府と連絡を取っていたと指摘した。この関係者によると、複数回のやり取りの中で、政府はFableのリリースに反対しなかったという。

政府が輸出規制を実施した後、Anthropicはブログ記事で政府の指示に従うと表明したが、同時にこの措置は過剰反応であるとの見解を示した。

Anthropicは次のように述べている。「これまで公に述べてきた通り、政府は安全でないデプロイを阻止する権限を持つべきだと考えています。しかし、それは透明性、公平性、明確性があり、技術的事実に基づく法定手続きの上に成り立つべきです。今回の措置はこれらの原則に合致していません。」

匿名を条件に発言したホワイトハウス当局者は、イノベーションは依然としてホワイトハウスの「最優先目標だが、安全性も同様に優先しなければならない」と述べた。

Amazonは声明の中で、政府との具体的なやり取りの詳細を開示することを拒否した。Amazonの広報担当者は、「政府が潜在的なセキュリティリスクについて我々に意見を求めることは珍しくありません。そのような場合、我々は議論の詳細を開示しません」と述べた。

今年4月初め、Anthropicは最新の強力なモデル「Mythos」を、一部のテクノロジー企業とサイバーセキュリティ企業にのみ公開し、ソフトウェアの脆弱性テストを支援すると発表した。当時Anthropicは、このモデルは能力が高すぎるため、不適切な使用者の手に渡れば深刻な結果を招く可能性があるとして、公開範囲を制限する必要があると述べていた。

Mythosの登場は、Amodeiとホワイトハウスの高官との一連の会合を引き起こした。双方ともこれらの会合を実りあるものと評価している。その後、先進的なAIモデルの規制方法をめぐって複数回の議論が行われ、最終的に最近の大統領令に至った。この大統領令は、企業が先進モデルを広く展開する前に、自主的に政府の審査に提出することを求めている。

今週公開されたFable 5は、Anthropicによって「Mythosレベルのモデル」と説明されているが、追加の安全対策が施されており、一般ユーザーにも開放可能となっている。このモデルは、米国政府と英国AI安全研究所の審査を受けている。

しかし、いわゆるセキュリティ上の欠陥が明らかになった後、複数の政府当局者は、このモデルを直ちに削除すべきだと判断した。

土曜日の朝、元ホワイトハウスAI責任者で規制に強く反対するDavid Sacksは、Xに投稿し、Anthropicに対する政府の輸出規制を支持した。

Sacksは、今回の「脱獄」が単純でも取るに足らないものでもないと考えており、また輸出規制が政府によるAI業界の広範な支配の試みだとも考えていないと述べた。Sacksは次のように書いている。「政府は現在、Anthropicがセキュリティ問題を修正し、その後輸出規制を解除し、Fableを再び公開状態に戻すことを望んでいます。政府はこれができるだけ早く行われることを望んでいます。率直に言って、政府は困惑しています。Anthropicはこれまで安全性の要請を最優先事項と述べてきたのに、今は協力を渋っているからです。」

サックス氏や政権内の他の高官はこれまでにも、Anthropicが左翼的な政治的偏向を持っていると非難し、より厳しい業界規制を主張し、大規模な雇用への打撃を警告することで同社がパニックを煽っていると批判してきた。

今年初め、国防長官のピート・ヘグセス氏とペンタゴンは、政府とAnthropicの間の対立をかつてない高みに押し上げた。3月3日、Anthropicが自社のAIツールを大規模な国内監視や自律型兵器システムに使用されることを拒否したため、ペンタゴンは同社をサプライチェーンリスクに指定した。

土曜日、サックス氏は、政府とAnthropicの間の既存の紛争は、今回の輸出規制の決定とは別問題だと述べた。サックス氏は「政府はAnthropicの技術力を評価しており、この問題は深刻ではあるが、容易に解決できるはずだと考えている。今やボールはAnthropic側にある」と記した。

[原文リンク]

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia