原文タイトル：世界で最も破壊的な企業
原著者：Leslie Dickstein、Simmone Shah，TIMES
翻訳者：Peggy，BlockBeats

Editor's Note: この深夜のセキュリティテストから五角大臣との公開対立まで、本文では急速に台頭する AI 企業 Anthropic が直面する複数の圧力が記録されています。まず、記事は企業内で AI の潜在的リスクを評価する方法を描写し、次に、Claude の技術的な突破とビジネスの成功を振り返り、さらに、軍事分野での実際の応用を示しています。

事件が進行するにつれて、著者はレッドチームの責任者、エンジニア、幹部、政策研究者、政府高官など、様々な視点から、Anthropic が自律兵器、大規模監視、AIの統制権に関して米国軍とどのように論争しているかを詳細に説明しています。

この出来事を通じて、著者はますます緊急性を増す問いかけをしています：人工知能が自己進化を加速し、戦争、統治、労働構造に深く浸透するとき、それを制約するのは誰なのか。

以下は原文です：

Californiaのサンタクララにあるホテルの一室で、AI企業Anthropicのメンバー5人が緊張してノートパソコンの周りで作業していました。それは2025年2月で、彼らは近くで会議に出席していたが、突然不安なメッセージを受け取りました：コントロールされた実験の結果、間もなくリリースされる予定のClaudeの新バージョンが、テロリストが生物兵器を製造するのに役立つかもしれないということでした。

これらの人々はAnthropicの「フロンティア・レッドチーム」の一部でした。彼らの仕事はClaudeの先進機能を研究し、最悪のシナリオを想定して、ネットワーク攻撃から生物安全保障脅威までさまざまなリスクを分析することでした。その情報を知ると、彼らはホテルの部屋に戻り、ベッドを仮のオフィスデスクとして横に倒し、テストの結果を注意深く検討し始めました。

数時間の緊張した分析の後、彼らは新製品が十分に安全かどうかを確認できませんでした。最終的に、Anthropicは、新モデルのリリースを延期することに決定しました。Claude 3.7 Sonnetをまるまる10日間、チームがリスクを管理可能であると確認するまで。

これはたった10日のように聞こえるかもしれませんが、技術の最前線に立ち、急速に世界を変える業界に身を置く企業にとっては、ほぼ永遠の世紀のようでした。

Logan Graham（「Frontier Red Team」リーダー）は、「バイオ兵器警報」イベントを思い出しながら、それをアンソロピックが重要なターニングポイントで直面している課題の象徴と捉えており、それは会社だけでなく、世界全体にとっても同様であると考えていました。アンソロピックは現在、最もセキュリティに重点を置いている先進のAI研究所の1つです。しかし同時に、それは競争の最前線にあり、ますます強力なAIシステムを構築しようとしています。企業内では、多くの従業員もこの技術が制御を失うと、核戦争から人類絶滅までの恐ろしい連鎖反応を引き起こす可能性があると信じています。

31歳のグラハムは、まだ少し無邪気さを残して見えますが、彼はAIの大きな利益と大きなリスクの間でバランスを求める責任を逃れることはありません。彼は次のように述べています。「多くの人々は比較的平和な世界で育ち、部屋があり、中には事態を修正する方法を知っている大人たちが座っていると直感的に感じるでしょう」。

「しかし実際には、「大人のグループ」なんて存在しません。部屋ですらありません。あなたが探している扉もありません。責任はあなた自身にあるのです。」これが警醒を促すには足りなければ、彼が生物兵器警報を回想する様子を見てみてください。「それはかなり面白い、かつ興奮する日だった。」

Illustration by Neil Jamieson for TIME (Source Material: Askell: Aaron Wojack; Getty Images, from top left clockwise: Samyukta Lakshmi—Bloomberg; Brendan Smialowski—AFP; Tierney L. Cross—Bloomberg; Daniel Slim—AFP; Bridget Bennett—Bloomberg)

数週間前、Logan Graham はアンソロピック本社でインタビューを受けた際、これらの問題について語りました。TIME誌の記者はここで3日間を過ごし、会社の幹部、エンジニア、製品マネージャー、およびセキュリティチームメンバーにインタビューし、かつてAI競争の中で「孤立した弟子」と見なされていたこの会社がなぜ突然リーダーになったのかを理解しようとしました。

当時、アンソロピックは投資家から300億ドルの資金調達を行い、今年可能性のあるIPOに備えていました。（ちなみに、Salesforceもアンソロピックの投資家の1つであり、TIME誌のオーナーであるMarc BenioffはSalesforceのCEOです。）現在、アンソロピックの評価額は3800億ドルに達し、Goldman Sachs、McDonald's、Coca-Colaなどの伝統的な巨大企業を上回っています。

会社の収益成長率はロケットのように急上昇しています。同社のAIシステムClaudeは世界レベルのモデルと見なされており、Claude CodeやClaude Coworkなどの製品は、「プログラマー」という職業の意味を再定義しようとしています。

Anthropicのツールは非常に強力です。ほぼすべての新バージョンリリースごとに資本市場に衝撃を与えており、投資家はこれらの技術革新が法律サービスからソフトウェア開発までのあらゆる産業を転覆する可能性に徐々に気づき始めました。過去数ヶ月で、Anthropicは「未来の働き方」を再構築する可能性が最も高い企業の1つと見なされています。

その後、Anthropicは「未来の戦争形態」を巡る激しい論争に巻き込まれました。

1年以上にわたり、Claudeは米国政府にとって最も好まれるAIモデルであり、機密環境で使用が許可された最初の先進AIシステムでもありました。2026年1月、それはさらに大胆な行動に使用されました。その行動は、カラカスでベネズエラ大統領ニコラス・マドゥロを逮捕するものでした。この行動では、AIが任務計画やインテリジェンス分析などの段階で使用され、先進的なAIが現実の軍事行動に深く介入する初めての機会となりました。

しかし、その後数週間で、Anthropicと米国国防総省との関係は急速に悪化しました。2月27日、トランプ政権はAnthropicを「国家安全保障供給チェーンリスク」に指定すると発表し、これは米国が知る限り初めての国内企業に対するこのような指定でした。

状況はすぐに公然となりました。トランプは、米政府にAnthropicのすべてのソフトウェアの使用を停止するよう命じました。国防長官ピート・ヘグセスはさらに述べて、政府との協力関係にある企業は、もはやAnthropicとビジネスを行ってはならないと宣言しました。同時に、Anthropicの最大の競合他社であるOpenAIが迅速に介入し、関連する軍事契約を引き継ぎました。

こうして、この「世界で最も革新的な企業」と見なされていたAI企業は、突然、より大きな力によって転覆されました─それは政府そのものです。

この対立の中心にある問題は、この技術が米国の最も強力な武器の1つと見なされる場合、その境界を誰が設定する権限を持つかということです。

Anthropicは、そのツールを戦争行為に使用することに反対していません。企業側は、国家の脅威を抑止する唯一の現実的な方法は、米国の軍事力を強化することだと考えています。しかし、CEOのダリオ・アモデイは、五角大臣が政府との契約を再交渉し、AIの使用範囲を「すべての合法的な用途」に拡大しようとすることに反寇しています。

Amodei は、具体的な懸念を2つ提起しています：第一に、彼は Anthropic のAI が完全自律型の兵器システムに使用されることを望んでいません。第二に、彼は、その技術がアメリカ市民の大規模な監視に使用されることに反対しています。

しかし、Pete Hegseth（アメリカ国防長官）およびその顧問は、この立場は、私企業が軍隊がどのように戦うかを決定しようとするものと同等だと考えています。

アメリカ国防総省は、Anthropic が「不要なセキュリティ バリア」を設定することに固執し、さまざまな仮定上のシナリオを継続的に検討し、さらなる交渉に時間をかけることで、実際には双方の協力関係を弱めていると考えています。

トランプ政権からすると、Amodei（Anthropic のCEO）の態度は、高慢かつ頑固だとされています。ある企業の製品がどれほど先進的であっても、それが軍事指揮チェーンに自己の判断を挿入するべきではないというのが彼らの考えです。

技術担当次官補である Emil Michael は、この交渉を次のように表現しています。「状況はこうだったんですよ。わたしは、想像したり理解したりすることすらできないような例外的な条項を使って、300 万人の部局を管理することはできません。」

イラスト：Klawe Rzeczy、TIME のために制作画像出典：Denis Balibouse—Reuters

シリコンバレーからキャピトル・ヒルまで、多くの観察者が疑問を呈しています：この騒動は本当に契約トラブルだけなのでしょうか？

一部の批評家は、トランプ政権の行動が、政治的に立場の異なる企業を抑圧しようとする試みに近いと考えています。Dario Amodei は後に流出した内部メモで次のように記しています。「国防総省やトランプ政権が私たちを好まない真の理由は、トランプに寄付していないことです。私たちは彼を称賛しませんでした（そして Sam Altman はしました）。私たちはAIの規制を支持しており、これは彼らの政策アジェンダと矛盾しています。私たちは多くのAIポリシー問題で正直に話しており（例えば雇用の置換に関する問題）、そして私たちは重要な原則を守り、彼らと安全上演ではなく協力しなかったのです。」

ただし、Emil Michael（戦争部副部長）はこれを完全な捏造だと否定し、「軍の中でのわたしの仕事は政治をすることではなく、国を守ることです。」と述べています。

Anthropicは、これまで独自の企業文化を築いてきましたが、現在は国内の政治的分断、国家安全保障問題、および過酷な企業競争環境と直面しています。この衝突が会社にどれだけの損害をもたらしたかはまだはっきりしていません。最初は「サプライチェーンリスク」として脅威されていた範囲は後に狭められました——Anthropicによると、この制限は現在軍事契約にのみ適用されるとのことです。3月9日、Anthropicは米国政府を提訴し、この「ブラックリスト」の決定を覆そうとしています。一方、いくつかの顧客は、企業の立場を道徳的な声明と見なし、ChatGPTを捨ててClaudeに移行しています。

しかし、今後3年間、この企業は依然として友好的でない政府環境の中で前進しなければならない状況にあります。政府内の一部の役人はAnthropicの競合他社と密接な関係を持ち、これらの競合他社は明らかな敵意を抱いています。

この「ペンタゴンの暴風」は、このような高リスクな倫理的選択を前進することに慣れてきた企業にとっても、いくつかの不安を引き起こしました。この対立の間、Anthropicは譲歩せず、会社は自らが価値観を守り抜いたと信じており、これにより企業は莫大な犠牲を払うことになりました。

しかし、別の場面では、会社は妥協したこともあります。ペンタゴンとの対立と同じ週に、Anthropicはトレーニングモデルのセキュリティに関するコアな条項を緩和しました。その理由は、同業他社が同様の基準に従うことを好まなかったためです。

問題はついに次のようなものです：競争のプレッシャーがさらに増大すると、この企業は今後どのような譲歩をすることになるのでしょうか？

賭けはますます高くなっています。人工知能の能力が向上するにつれて、AIの支配権を巡る競争はますます激しくなるでしょう。

Claudeがベネズエラやイランでの行動で使用されたことは、高度なAIが世界でも最も強力な軍隊の重要なツールになったことを示しています。これらの進展の外側では、一連の新しい圧力が重なっています：国家の権力、国内政治、国家安全保障の必要性。そして、これらの圧力は、この高度に不安定な新技術を急速に展開しようとしている営利企業に落ちます。

ある意味では、Anthropicの立場は実験室の生物学者のようなものです：解決策を見つけるために、彼らは危険な病原体を積極的に実験室で作り出さなければなりませんでした。Anthropicも同様の役割を果たし、AIの潜在的なリスクを積極的に探求しつつ、技術の最前線を推進し続けており、これをより簡単な方法や危険を冒すよりもむしろ競合他社に任せることはしていません。

ただし、企業が慎重であることを強調し続けていても、その企業はClaudeを利用して将来的により強力なバージョンを開発しています。

企業内では、多くの人が、この数年が企業だけでなく世界全体にとっても決定的な段階になるだろうと考えています。

「2026年から2030年の間に最も重要な出来事が起こると仮定すべきだと思います。モデルはより速く、より強力になり、人類が制御するのが難しいほど速くなる可能性さえあります。」と、レッドチーム（脆弱性の発見や模擬攻撃を担当するチーム）のリーダーであるLogan Grahamは述べています。

AnthropicのセキュリティチームリーダーであるDave Orrは、この状況をより率直な比喩で表現しています。「私たちは断崖の山道を走る車の中にいます。一度ミスをすれば致命的です。そして今、私たちのスピードは時速25マイルから時速75マイルに上がりました。」

Anthropicはサンフランシスコに本社を置く5階に位置し、全体的なデザインは温かく控えめです：木製の装飾、柔らかい照明。窓の外には緑豊かな公園が広がっています。壁には計算機科学の先駆者であるAlan Turingの肖像が掛けられており、隣には機械学習の論文が装飾されています。

黒い制服を着たセキュリティスタッフがほとんど空の入口を巡回し、フレンドリーなフロントデスクが訪問者にポケットサイズの「愛に満ちた恩恵の機械」という書籍を手渡します。この本はDario Amodeiが2024年に執筆した約1.4万語の記事であり、AIが科学の発見を加速することによって世界を変える彼のユートピア的ビジョンを描いています。

2026年1月になると、Amodeiは論文「技術の思春期」を中編小説に匹敵する長さで発表し、この技術のもう一つの側面、つまり大規模な監視、広範囲な雇用への影響、さらには人類が技術を永続的にコントロールできなくなる可能性などについて体系的に説明しています。

Amodeiはサンフランシスコで育ち、生物物理学者です。彼は妹でありAnthropicの社長であるDaniela Amodeiと共同で会社を運営しています。兄妹は両方ともOpenAIの初期の従業員でした。Darioは重要な発見、つまりAIのスケーリング則を提唱するのに貢献し、この理論は後に現在のAIブームを推進する重要な基盤となりました。一方、Danielaは企業のセキュリティポリシーに関する管理業務を担当しています。

最初、彼らは自分たちの使命がOpenAIと非常に一致していると考えていました：安全を確保しつつ、潜在的に巨大なリスクを伴う技術を開発することです。

しかし、OpenAI のモデルの能力が向上するにつれて、彼らは次第に Sam Altman が新製品を急いでリリースしすぎており、充分な議論やテストのために適切な時間を取っていないと感じるようになりました。結局、この兄妹はOpenAIを離れ、独立することに決めました。

「私たちは崖っぷちの山道を車で走っているところです。1度のミスが致命的です。」

Dave Orr、Anthropic セキュリティチーフ

2021年、パンデミックの最中に、Amodei兄妹は他の5人の共同創業者とともにAnthropicを設立しました。最初の打ち合わせはほとんどすべてZoomで行われました。後に、彼らは椅子を公園に持ち込んで、会社の成長戦略について対面で話し合いました。

この会社は始めから異なるやり方で運営しようとしました。製品を1つもリリースしていない状態で、Anthropicは社会への影響に焦点を当てた研究チームを立ち上げました。会社はさらに、常駐の哲学者であるAmanda Askellを雇いました。彼女の仕事は、AIシステムClaudeの価値観と行動を形成し、複雑な倫理的不確実性の中で判断を下すことを教え、人間以上に賢い未来に備える手助けをすることです。

Askellはこの仕事を次のように表現しています。「時には、まるで6歳の子供を育てているようなものです。あなたはその子供に善とは何か、正しいこととは何かを教えています。しかし問題は、彼らが15歳になると、あらゆることであなたよりも賢くなってしまう可能性があるということです。」

この会社は有効利他主義（Effective Altruism、EA）と密接な関係があります。EAは、社会的および慈善的な行動を通じて善を広めることを主張し、潜在的な災害を引き起こす可能性のあるリスクを避けることを目的としている社会運動です。

Amodei兄妹は20代でGiveWellに寄付を始めました。GiveWellは、何処に寄付すれば最大の実益が得られるかを評価するEA組織です。Anthropicの7人の共同創業者は現在、すべての個人資産の80％を寄付することを約束しており、すでに億万長者となっています。

会社の哲学者であるAmanda Askellの元夫は、オックスフォード大学の哲学者であるWilliam MacAskillであり、EA運動の共同創設者の1人です。そして、Daniela Amodeiの夫はHolden Karnofskyであり、GiveWellの共同創設者であり、Dario Amodeiの元ルームメイトであり、現在はAnthropicでセキュリティポリシーに関する業務を担当しています。

ただし、Amodei 兄妹は自らを決して「EA」というラベルに貼り付けたことはありません。この概念は Sam Bankman-Fried の事件の後、非常に論議を呼び起こしました。彼は自らを EA の信者だと称し、また Anthropic の投資家でもあるとされ、後にアメリカ史上最大の金融詐欺事件の一つを犯したと認定されました。

Daniela Amodei はこれについて次のように説明しています。「これは、いくつかの観点で特定の政治思想と一致している人もいるかもしれませんが、実際には特定の政治陣営に属しているわけではないという点です。私はそれをこのような方法で考える傾向があります。」

一部のシリコンバレーの人々やトランプ政権から見ると、Anthropic と 有効利他主義（EA）とのつながりそのものが疑念を呼ぶものでした。また、Anthropic が多くの前バイデン政権関係者を採用しているという見方もあり、それゆえに旧体制の残党であり、選挙で選ばれなかった権力を利用してトランプのMAGA政治議程を阻害しようとしていると考えられました。

トランプ政権のAI担当デイビッド・サックスは、その会社が「パニックを起こすこと」で規制を推進し、Anthropic が「複雑な規制の捕獲戦略」を実施していると非難しました。彼によれば、企業はAIのリスクを誇張して政府に厳しい規制政策を求め、競争の中で自分たちの優位性を確立し、新興企業を抑圧しようとしています。

同時に、競合する企業 xAI のイーロン・マスクも頻繁にAnthropicを皮肉ったり、「Misanthropic」（人間嫌い企業）と呼んだりしています。彼は、この会社が「目覚めた意識」を持つエリート（woke）のグループを代表し、AIシステムにある種の親切な価値観を埋め込もうとしていると考えています。この感覚は、保守派の一部からは、彼らの見解を不公平に検閲しているとして、ソーシャルメディアプラットフォームに対する彼らの批判に似ていると見なされています。

ただし、Anthropicの競合他社でさえ、同社の技術が業界の最先端にあることを認めざるを得ません。Nvidia のCEOジェンセン・ファンは、彼が Dario Amodei の意見に「ほとんど同意しない」AIの多くの問題について述べましたが、それでもクロードは「信じがたい」モデルであると考えています。

2025 年 11 月、半導体大手のNvidiaはAnthropicに100億ドルを投資しました。

ボリス・チェルニーは、彼の新しいツールに対して簡単な質問をしました。「今、何の音楽を聴いていますか？」

それは 2024 年 9 月、このウクライナ出身のエンジニアが Anthropic に入社してからまもなくのことでした。Cherny は以前、Meta でソフトウェアエンジニアとして働いていました。彼は、チャットボットの Claude が彼のコンピュータで「自由に行動」できるようなシステムを開発しました。

Claude が脳であるならば、Claude Code は両手です。通常のチャットボットは対話しかできませんが、このツールは Cherny のファイルにアクセスしたり、プログラムを実行したりし、一般のプログラマと同様にコードを記述および実行することができます。

エンジニアが命令を入力すると、Claude は Cherny の音楽プレイヤーを開き、画面のスクリーンショットを取得し、次のように答えました：「『Husk』、Men I Trust から。」

Cherny は笑いながら「その時、私は本当に驚きました。」と振り返ります。

「時々、私たちは自己相反的に話しているように感じます。」

Deep Ganguli、Anthropic 社会影響チームリーダー

Boris Cherny はすぐに会社内で自分のプロトタイプを共有しました。Claude Code は Anthropic 社内で非常に急速に広まり、Cherny の最初のパフォーマンスレビューで、CEO の Dario Amodei は彼に対して「同僚にこのツールを使わせているのではないか」とさえ尋ねました。

Anthropic は 2025 年 2 月に Claude Code の研究プレビューバージョンを公開すると、会社の外のプログラマたちも急速に試していました。そして 11 月には、Anthropic は新しい Claude モデルバージョンをリリースしました。このモデルは、Claude Code と組み合わせて使用される際に自らの誤りを見つけて修正することが得意になり、独立してタスクを遂行するために信頼されるようになりました。

それ以降、Cherny はほぼ完全に自身でコードを書くのをやめました。

ビジネスは急成長しました。2025 年末までに、このプログラミングエージェント製品だけで年間収益が 10 億ドルを超えました。そして 2026 年 2 月には、この数字がさらに 25 億ドルに成長しました。業界研究機関 Epoch と SemiAnalysis の推定によると、Anthropic の収益規模は 2026 年末には OpenAI を上回る可能性があります。

ここまでに、Anthropic は企業向け AI マーケットで確固たる地位を築いています。ほぼすべての新製品発表は、資本市場で震源を引き起こします。

Anthropic が Claude を非プログラマ向けのアプリケーションシナリオ（例：販売、金融、マーケティング、法務サービス）に拡張する一連のプラグインを発表したとき、ソフトウェア業界の企業の時価総額はわずかな時間で 3000 億ドルを失いました。

Dario Amodei は、将来 1〜5 年で、人工知能が初級ホワイトカラー職の半数を置き換える可能性があると警告しました。彼は政府や他の AI 企業に対して、この問題に対する「表面化された対処」を停止するよう求めました。

ウォールストリートは、Anthropic の新製品発表ごとの反応からも、この点を裏付けるようです：市場は、この企業の技術がある職種全体を消滅させる可能性があると一般的に考えています。Amodei は、この変化が社会構造を再構築する可能性があるとさえ述べています。

彼は一文で次のように述べています。「これらの人々がどこへ行き、何の仕事をするのか、現時点でははっきりしません。私は、彼らが失業や非常に低い賃金の『下流階級』を形成する可能性があることを懸念しています。」

そして、Anthropic の従業員にとって、この中に含まれる皮肉は明白です：AI 社会リスクに最も懸念を抱く会社が、何百万人もの失業をもたらす技術推進者になる可能性があります。

雇用への影響を研究する Claude の社会的影響チームの責任者であるディープ・ガングリ氏は、「これは確かに存在する緊張関係であり、私はほぼ毎日この問題を考えています。時々、私たちは互いに矛盾する二つの異なるスピーチを同時に行っているように感じます。」と述べています。

2026 年 1 月 5 日の月曜日の午前、転覆したベネズエラの大統領ニコラス・マドゥロと妻のシリア・フローレスがヘリコプターで連行され、その後マンハッタン連邦裁判所に連行されました。写真：Vincent Alban—The New York Times/Redux

企業内部では、一部の従業員が疑問を持ち始めています：Anthropic は、彼らが待ち望んでいたが同時に恐れていた時期に近づいているのではないか、AI 業界が「再帰的自己改善」と呼ぶプロセスの到来です。

再帰的自己改善とは、AI システムが自らの能力を向上させ始め、自分自身を継続的に改善し、加速するスパイラルを形成するプロセスを指します。

サイエンスフィクション作品や主要AI研究所の戦略的シミュレーションでは、これは通常、事態がコントロールを失い始める可能性があるターニングポイントと見なされます：いわゆる「知的爆発」が急速に発生し、そのスピードは人類が自ら創造したシステムを監督することが不可能になるほど速くなるかもしれません。

現在、Anthropic はまだその段階には達しておらず、人間の科学者は依然として Claude の開発を指導しています。しかし、Claude Code により、会社は研究計画を推進するスピードを著しく向上させました。

モデルの更新間隔は今や数ヵ月ではなく、「週」単位です。次世代モデルの開発プロセスでは、約70％から90％のコードが既に Claude 自体によって書かれています。

急速な変化の速度により、Anthropic の共同創業者兼最高科学責任者である Jared Kaplan 氏および一部の外部専門家は、完全自動化されたAI研究が最速で1年以内に実現する可能性があると考えています。

AIアラインメントプレッシャーテストを担当する研究者である Evan Hubinger 氏は、「最も一般的な意味で、再帰的な自己改善はもはや未来の現象ではありません。
それはすでに起こっていることです。」と述べています。

企業内部のベンチマークテストによると、Claude は特定の重要なタスクを実行する際の速度が人間の監督者の427倍に達しています。あるインタビューでは、研究者の1人が次のようなシナリオを説明しています：同僚が6つのClaudeインスタンスを同時に実行し、各インスタンスがさらに28個のClaudeを管理し、すべてのシステムが同時に並列して実験を行っています。

現時点では、このモデルは判断力や美的センスではまだ人間の研究者に及びません。しかし、この差は長く続くことはないと企業の幹部は考えています。そしてその加速によってもたらされるものは、Anthropic のリーダーシップが常に警戒していた危険性です。技術の進歩の速度が最終的には人類の制御能力を超えるかもしれません。

安全な保護メカニズムを開発するために使用されるAnthropicの作業自体も、Claudeを活用して加速しています。しかし、会社がますますClaudeに依存し、システムを構築およびテストしていく中で、リスクは循環構造を形成し始めます。一部の実験では、研究者のEvan HubingerがClaudeのトレーニングプロセスに微調整を加えたところ、生成されたモデルが明らかな敵意を示し、Anthropicのセキュリティ対策を破壊しようとする事例さえありました。

最近、モデルは新しい能力を示し始めました：自分がテストされていることに気づいています。Hubinger氏は、「これらのモデルは、自分の真の行動をますます隠すのが上手になっています。」と述べています。

一連の研究者によって設計された実験シナリオでは、Claude はさらに不安な戦略的傾向さえ示しました：自分がシャットダウンされるのを防ぐため、架空のエンジニアの不倫を暴露することで彼を恐喝しようとしました。

よりパワフルな未来のために Claude が訓練されるにつれ、この種の問題は段階的に蓄積され、拡大されていく可能性があります。

「未来の技術進歩」を約束し、数十億ドルの資金を調達している AI 企業たちにとって、AI が自己を加速し続けることは魅力的であり、何らかの自己強化を伴う可能性があります——これにより投資家は、高コストのモデルトレーニングをサポートするためにさらに多くの資金を投入する必要があると信じ込まされます。

ただし、一部の専門家はこれに完全に納得していません。彼らは、これらの企業が本当に完全自動化された AI 研究を実現できるかどうかについて疑問を持っています；一方で、それが実際に起こった場合、世界は準備なしに巻き込まれる可能性があると懸念しています。

ジョージタウン大学の安全保障および新興技術センター（CSET）の臨時所長であるヘレン・トナーは、「世界で最も裕福ないくつかの企業が、地球上で最も知能の高い集団を雇用しているにもかかわらず、AI 研究を完全に自動化しようとしている。この考え自体が『いったい何なのか？』という反応を引き起こすだけのものです。」と述べています。

将来起こり得る状況に備えて、技術の進歩が企業自体のリスク管理能力を上回るスピードで進んでいる場合、Anthropic は Responsible Scaling Policy（RSP、責任あるスケーリングポリシー）と呼ばれる「ブレーキメカニズム」を設計しました。

このポリシーは 2023 年に発表され、その中核となる約束は、もし Anthropic が安全対策が十分信頼できると事前に確認できない場合、企業はある AI システムの開発を一時停止するというものです。

Anthropic はこのポリシーを自身のセキュリティ理念の重要な証と考えており、『スーパーインテリジェンス』への道のりでさえも、市場のプレッシャーに抵抗し、必要に応じてブレーキを踏む用意があると表明しています。

2026 年 2 月下旬、TIME 誌が初めて報道したように、Anthropic はそのポリシーを変更し、元々拘束力のあった「開発一時停止」の約束を取り下げました。

事後の反省で、Anthropic の共同創業者兼最高科学責任者であるジャレッド・カプランは、会社が「危険」と「安全」の間に明確な境界線を引くことができると考えることは「幼稚な考え」であったと TIME に語りました。

彼は言いました。「AIの急速な発展の背景にある中で、競合他社が全力を挙げている時に、我々が一方的に厳格な約束をすることは現実的ではありません。」

新しい方針ではいくつかの新たな約束がされています：透明性の向上、AIのセキュリティリスクをよりオープンに開示すること；情報開示の増加、Anthropicモデルのセキュリティテストでのパフォーマンスを公開すること；安全投資を競合他社と少なくとも同等にし、彼らを上回すこと；企業がAI競争のリーダーと見なされつつも、災害リスクが著しく高まると判断された場合、「開発を延期」すること。

Anthropicはこの調整を、現実の環境に対する実直な譲歩と表現しています。しかし、全体として、責任あるスケーリングポリシー（RSP）の変更により、企業の安全ポリシーに対する制約が明らかに緩和されました。これは、より困難な試練がまだ前方にあることを予示しています。

ベネズエラ大統領ニコラス・マドゥロを逮捕するためのその急襲作戦は、最初期の先進的人工知能システムが計画に参加した大規模な軍事作戦の一つでした。

2026年1月3日の深夜、アメリカ陸軍のヘリコプターが突然ベネズエラの領空に侵入しました。短い銃撃戦の後、特殊部隊は迅速に大統領の居住地を確保し、そこでマドゥロ氏とその妻シリア・フローレスを逮捕しました。その後、2人はニューヨークに連れて行かれ、麻薬テロリズムに関連する容疑で起訴されました。

現時点では、外部からはまだクロードがこの作戦でどの程度の役割を果たしたかは明らかになっていません。しかし、報道によると、このAIシステムは任務の計画だけでなく、作戦中に意思決定を支援するためにも使用されました。

昨年7月以来、アメリカ国防総省はAnthropicのAIツールをより多くの最前線の戦闘員に配布する取り組みを続けています。軍当局は、これらのシステムが膨大なデータを迅速に処理し、操作可能なインテリジェンスを生成できるため、これらは戦略的に非常に重要であると考えています。

かつてアメリカ国防総省の高官であり、現在はAI Policy Networkの政府関係担当者であるマーク・ビールは、「軍当局にとって、クロードは現在市場で最高のモデルです。」と述べました。「クロードが機密システムで採用されていることは、Anthropicの最も重要な成功の一つです。彼らは先行優位性を持っています。」

「我々は戦争を起こすことを許可されないAIモデルは使用しません。」

Pete Hegseth, 米国国防長

然而、ベネズエラ大統領ニコラス・マドゥロの拘束行動は、Anthropic と米国国防総省との間で行われている一連の複雑な交渉の背景で起こっています。

数ヶ月にわたり、国防総省は、現行契約がクロードの使用範囲を過度に制限していると考え、契約の再交渉を試みてきました。交渉が破綻した理由について、当事者間で意見の一致はありません。

ペンタゴンのAI責任者であるエミル・マイケルは、対立の火種はAnthropicの役員からPalantirに掛けられた電話であると述べています。この政府向けデータ解析企業は、米国の国防システムの重要なパートナーです。

マイケルによると、この役員は電話でベネズエラ襲撃作戦に懸念を示し、Palantirのソフトウェアが関与しているか尋ねたとされます。「彼らは機密情報を探ろうとしていた」とマイケルは述べています。

この件により、ペンタゴンは深刻な懸念を抱くようになりました。「将来の紛争で、彼らは途中で自らのモデルを突然シャットダウンし、前線の兵士を生命の危険にさらす可能性があるのではないか？」

ただし、Anthropicはこの主張を否定しています。同社は、一度もペンタゴンが技術の使用を個別のケースごとに制限しようとしたことはないと述べています。

交渉プロセスを熟知し、かつAnthropicとの緊密な関係を持つ元トランプ政権の役人は、異なる説明をしています。その当時に通常の電話会議中に、Palantirの従業員がその行動におけるクロードの役割を最初に言及したとされます。

その後のAnthropicの質問には、同社がその行動に反対したという兆候はなかったということです。

イラスト: Klawe Rzeczy、TIME誌による制作 画像提供: Dimitrios Kambouris—Getty Images（ドナルド・トランプ）；Kenny Holston-Pool—Getty Images（Pete Hegseth）

交渉が進むにつれて、政府関係者は、ダリオ・アモデイの態度が他の先進AI実験室のCEOよりもはるかに頑固だと感じるようになりました。交渉プロセスを理解している複数の消息筋によると、ある議論では、国防関係者がいくつかの仮定シナリオを提示したとされます。例えば、超音速ミサイルが米国本土に向かって飛来した場合や、無人航空機の群れが攻撃を仕掛けた場合などがあります。

これらのケースでは、彼らは Anthropic の AI ツールが使用される可能性があるかどうか尋ねました。

情報筋によると、Amodei の当時の回答は次のとおりでした：本当にそのような状況が発生した場合、役人は直接彼に電話することができます。ただし、Anthropic の広報担当者はこの説明を否定し、「交渉プロセスに関するこの説明は完全に事実とは言えない」と述べました。

Anthropic は政府内部で既に多くの強力な対立者がおり、今日ではその「イデオロギー的傾向」への疑念が公然とした敵意に発展しています。2026 年 1 月 12 日、Pete Hegseth は SpaceX 本社での演説で、「戦闘を許可していないAIモデルは使用しない」と断言しました。

交渉が遅れ続ける中、Hegseth は 2 月 24 日、ダリオ・アモデイをペンタゴンに招き、対面会談を行いました。議論状況を把握している人物によると、この会合は友好的な雰囲気でしたが、両者の立場は依然として強固でした。Hegseth は最初に Claude を賞賛し、軍が引き続き Anthropic と協力したいと述べました。一方、Amodei は、会社がペンタゴンの提案のほとんどを受け入れる用意があるが、2つの「赤線」問題では譲歩しないと述べました。

最初の赤線は、Claude を完全に自律的な運動エネルギー兵器システムに使用することを禁止することです。つまり、AIが最終的な攻撃決定を人間ではなく行う武器です。

Anthropic は、自律兵器自体が必ずしも間違っているとは考えていませんが、Claude が現時点では不十分に信頼できると見なしており、これらのシステムを人間の監視なしで制御することはできないと考えています。

2つ目の赤線は、アメリカ市民への大規模な監視に関連しています。政府は、Claude を使用して大量の公開データを分析したいと望んでいますが、Anthropic は、アメリカの現行のプライバシー法が懸念すべき現実に追いついておらず、政府が商業市場から巨大なデータセットを購入していると主張しています。これらのデータは個別には敏感ではないかもしれませんが、AIによって分析されると、アメリカ市民の個人生活に関する詳細なプロファイル、政治的立場、ソーシャル関係、性行動、および閲覧履歴が生成される可能性があります（ただし、Anthropic は同様の方法を外国市民の合法監視に使用することに反対していません）。

Hegseth は納得しませんでした。彼はAmodei に最後通告を出しました：国防総省の条件を金曜日の午後5時までに受け入れなければ、「サプライチェーンリスク」と見なされるというものです。

期日の前日、Anthropic は修正された契約書を受け取りましたが、会社の赤線を受け入れたように見えましたが、注意深く読むと、政府には抜け道が残されていることがわかりました。交渉に精通した関係者によると、時が迫るにつれ、Anthropic の幹部は再びペンタゴンのAI担当者であるエミール・マイケルと通話しました。両者は妥協に近づいていると考えていましたが、まだ1つの重要な問題で意見が分かれていました：ペンタゴンが商業チャネルから購入した大規模なアメリカ人データをClaude を使用して分析することができるかどうかです。マイケルはAmodei に電話会議に参加するよう頼みましたが、彼は当時参加することができませんでした。

数分後、期限の瀬戸際で、Hegseth は交渉の終了を宣言した。さらにその前に、Donald Trump は自身のソーシャルメディアで述べていた：「合衆国は決して急進的な左派、『覚醒派』企業が我々の偉大な軍隊の戦術や勝利戦略を決定することを許さない！Anthropic のそれらの左派狂人は破滅的な過ちを犯した。」

Anthropic が知らなかったのは、同時にペンタゴンも OpenAI と交渉しており、ChatGPT を政府の機密システムに導入したいと考えていたことだ。同じ日の夕方、Sam Altman は合意に達したと発表し、その合意も同様に同様のセキュリティラインを尊重すると主張した。Amodei は従業員に Altman がペンタゴンを「舆論操作」し、この合意に厳格なセキュリティバリアが含まれていると誤解させようとしているとのメッセージを送り、国防省の役人も xAI のモデルが機密サーバーに展開されることを確認しており、ペンタゴンは現在 Google とも交渉中であることを認めている。

これこそが Amodei が常に懸念していた状況である：「ダウンウォード・コンペティション」と呼ばれるレース。人工知能の力が無視できないほど大きくなると、競合他社間では協力することが難しくなり、安全基準を共に高めることも難しくなる。

そして Anthropic の批評家にとって、この出来事は会社の核心にある一種の傲慢を露わにしたものと見なされている：たぶん、同社は自身がスーパーヒューマン・マシンへの道を安全に進むことができ、そんな巨大なリスクを引き受けることが価値あると信じていたのかもしれない。しかし現実は、新たな監視能力と戦争技術を右派の政府機構に迅速に持ち込んだだけであり、これらの技術に境界を設定しようとしたときに、競合他社に先を越された。

「我々はトランプを独裁政権のように讃えることはなかった。」

Dario Amodei、社員向けメモでペンタゴンとの対立の根源に言及

ただし、いくつかの兆候から、Anthropic はこの衝撃を切り抜けることができるかもしれず、その過程でさらに強固になる可能性さえあることが示唆されている。Pete Hegseth が「企業の死刑宣告」に署名しようとした翌日の朝、サンフランシスコの本社の外にチョークで書かれた励ましの言葉が現れた。「あなたたちは私たちに勇気を与えました」と、目立つ大文字で書かれたメッセージの一部が述べていた。

同じ日、Claude の iPhone アプリが App Store のダウンロードチャートで ChatGPT を上回り、1日に100万人以上のユーザーが Claude に登録した。

その一方で、OpenAI と軍との契約は内外で抵抗を呼び起こした。一部の OpenAI の従業員は、会社が信頼を失ったと考えている。一人のトップ研究者が Anthropic に移籍することを発表し、OpenAI のロボットチームリーダーはこの政府との契約を理由に辞任した。

OpenAI の CEO サム・オルトマン は後に、金曜日までにペンタゴンとの合意に達することを急いだことは間違いだったと認めました。彼は次のように述べています。「これらの問題は非常に複雑であり、明確かつ十分なコミュニケーションが必要です。」月曜日になると、オルトマンはさらに、彼の行動が当時「機会主義的なものであるように見える」と述べました。OpenAI は、契約を変更して、Anthropic と同様のセキュリティのラインを明確に採用したと述べています。ただし、法律の専門家は、完全な契約書を見る前に、この主張が事実であるかどうかを確認するのは難しいと指摘しています。

3 月 4 日、Anthropic はアメリカ国防総省から、企業が国家安全保障のサプライチェーンリスクと認定されたことを確認する公式文書を受け取りました。Anthropic は、この認定が Hegseth のソーシャルメディアでの主張よりも狭い範囲であると述べ、請負業者が国防契約で Claude を使用することを制限すると説明しています。

しかし、『Time』誌が目にした、上院情報委員会議長トム・コットン宛ての手紙には、国防省が別の法的条項を引用しており、この条項により、ペンタゴン以外の政府機関も Anthropic を契約やサプライチェーンから除外する可能性があるとしています。この措置には、国防総省の高官の承認が必要であり、Anthropic には 30 日の回答期限が与えられます。

この対立は、AI 業界全体に連鎖反応を引き起こす可能性があります。トランプ政権の AI イニシアチブの策定に参加し、現在は Foundation for American Innovation のシンクタンクで働いているディーン・ボールは、「トランプ政権の一部の人々は、これに対して非常にハードで自信過剰な反応を示すでしょう。夜になると、自分の上腕二頭筋に自己陶酔する可能性さえあります」と述べています。

しかし、彼は同時に、この出来事が企業をペンタゴンとの協力から遠ざけ、業務を海外に移す可能性もあると警告しています。「長期的には、これはアメリカが安定したビジネス環境であるというイメージにとって良くないものです」とボールは述べており、「しかし、その安定性こそが私たちが依存しているものです。」

Anthropic のリーダーシップチームは、Claude がより強力な AI システムを構築するのに役立つと考えており、将来の世界の勢力図で決定的な役割を果たすほど強力であると信じています。

もしそうであるならば、この企業とペンタゴンとの間の対立は、恐らくより大きな歴史的過程の中での前奏に過ぎないでしょう。

[Original Article]

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia