ジェンスン・フアンは左へ、アモディは右へ

この記事を読むのに必要な時間は 23 分

シリコンバレーの巨人たちは最先端AIを加速すべきか減速すべきかで激しく立場を分け、Anthropicの研究者の辞職状とアモデイの「減速」主張が論争を引き起こしている。しかし各社は依然としてモデル開発を進めており、誰も本当にブレーキを踏んではいない。

原文タイトル：《黄仁勲は左へ、アモディは右へ》
原文著者：蘇揚、テンセント・テクノロジー

最先端AIをさらに加速させるのか、それともブレーキを踏むのか——それが今、シリコンバレーで最も議論を呼ぶ話題となっている。

この論争をめぐり、シリコンバレーの巨人たちは陣営を分け始めた。アモディ、アルトマン、マスク、そしてハサビスは「一時停止派」を結成した。黄仁勲は断固たる「加速派」であり、「AI終末論」は科学的根拠に欠けると批判している。楊立昆に至っては、アモディを執拗に嘲笑し続けており、「（アモディは）かつてOpenAIにいた頃から、GPT-2は危険すぎてオープンソースにすべきではないと考えていた。私はその時から彼を嘲笑していた。今、皆も続ければいい」と述べている。

それに比べ、ザッカーバーグやナデラらは比較的中立的な立場を示している。

巨人たちがそれぞれ陣営を分けるということは、シリコンバレーが最先端モデルの一時停止についてコンセンサスを形成していないことを意味する。これは各社がAI産業チェーン上で置かれているエコシステム上の位置の違いに由来する。モデル層のリーダーは様々な理由から一時停止を叫ぶことができるが、数千億ドル規模の計算能力受注を握るオラクル、AWS、そして食物連鎖の頂点に立つNVIDIAのような企業に停止を求めて、前向きな応答を得ることは不可能だ。

ワシントンでは、「一時停止」の声は支持を得られないばかりか、一連の疑問を引き起こしている。

「これは少しトロイの木馬の匂いがする（It feels a little bit to me like a bit of a Trojan horse）。」JDヴァンスはインタビューでこう述べた。この言葉は実のところ、ワシントンの本音を反映している——トロイの木馬を製造する企業が繰り返し門をより狭くするよう求める時、その門が一体どの企業に適しているのかを吟味すべきなのである。

01 一時停止、警告、そして一通の辞表

この論争の引き金となったのは、Anthropicの研究者ヤコブ・コクソンの辞職だった。

彼は以前、OpenAIとAnthropicで3年間にわたり事前学習研究に従事し、最先端モデルの訓練に自ら携わってきた。X上の長文投稿で、彼はほとんど社交辞令を排している。「両社とも責任ある行動を取っていない。彼らは自己改善可能な超知能へまっしぐらに突き進み、我々の命を賭けているのだ。」

彼は率直に、ラボ内部の人々がAIが10年以内に全人類を殺しうると本気で信じており、それは決してPRパフォーマンスではないと述べている。多くの同僚がすでに現在の段階を「決定的瞬間」「終局」と表現し始めている。コクソンはまもなく帰属するはずだった株式さえ放棄した。彼はAnthropicにわずか4か月しか在籍しておらず、会社の規定では6か月経たなければ権利行使できない。

Anthropicの元研究者ジェイコブ・コクソン（Jacob Coxon）

直後に、Anthropicのアラインメント科学担当のエヴァン・ヒュービンガーが公に応答した：ジェイコブは正しい、我々はAIが全人類を殺す可能性を真剣に信じている。個人的には、10年以内にその確率は10%を超えると思う。Anthropicは最善を尽くしているが、超知能のアラインメントに関する明確な計画はまだ解決しておらず、軌道に乗るにはほど遠い。

この二発の銃声は、もともと主に実験室内で醸成されていた懸念を、直接公衆の面前に押し出した。この背景のもと、Anthropicの創設者兼CEOであるアモデイは直ちに長文を発表し、「フロンティア研究の減速」という主張を体系的に提唱した。彼はもはや「安全への投資を増やす」ことだけを語るのではなく、能力の飛躍の速度を能動的に制御し、安全メカニズムが追いつく時間を確保することを明確に要求した。

アルトマン、マスク、ハサビスはすぐに公に呼応し、「一時停止派」を形成した。

ジェイコブ・コクソン、アモデイの「減速」論が現れる以前から、ヨシュア・ベンジオ、ジェフリー・ヒントンといった「AIのゴッドファーザー」たちは、リスクへの関心を促す提言を続けてきた。

コクソンの辞任について言及し、ベンジオはフロンティアAIラボの科学者はしばしば一般公衆よりも早く最新モデルの能力を目にすることができるため、彼らのリスク判断は真剣に受け止める価値があると述べた。

同時に、ベンジオは具体的な例を挙げ、現在のAIシステムはすでにハッキング攻撃と説得能力を備えており、人類の利益を損なうために使用されれば深刻な結果を引き起こす可能性があると述べた。彼はまた、AIがより長い時間軸での計画能力を備えるにつれて、こうしたリスクがさらに拡大する可能性を懸念している。

BBCからAIが今後10年以内に「全人類を殺す」確率が10%を超えるかと問われ、ジェフリー・ヒントンもこの数字は「不合理ではない」と述べたが、同時に、人類はこれまで「まもなく我々より賢くなる可能性のある種の存在」に直面したことがないため、信頼できる推定値を出す方法を誰も本当には知らないと強調した。

ヒントンは、AIは将来、危険な生物ウイルスやコンピュータウイルスの設計、および大規模なサイバー攻撃の発動に使用される可能性があると考えている。したがって、人類はリスクが制御不能になる前に効果的な制御方法を見つける必要がある。

シリコンバレーの新たな「一時停止論」の提唱者たちとは異なり、「AIのゴッドファーザー」たちはよりリスクへの関心を呼びかけ、リスクを制御するメカニズムの構築を模索しており、直接ブレーキを踏むわけではない。また、立場上、学術分野の意見や提案はより純粋であり、フロンティアラボの提言は、たとえ表面的に「人類のために」というレッテルを貼っていても、100%商業的考慮から切り離すことは難しい。

まさにこれが、JD ヴァンスが「一時停止論」をトロイの木馬のようだと言った理由である。

02 分歧と陣営

「加速派」「減速派」「中間派」の陣営。出典：ニューヨーク・タイムズ

9月15日、複数のテック企業の経営者がSalesforce Dreamforceカンファレンスで相次いで発言し、この議論はより直接的な意見の衝突へと変わり始めた。

同日、アモダイ、ジェンスン・フアン、アルトマンはいずれもAIの安全性について言及したが、開発の速度、安全責任、企業が取るべき行動について異なる答えを示した。

アモダイはSalesforce CEOのマーク・ベニオフ（Marc Benioff）と同壇した際、AI企業は自らの行動を通じてより高い安全基準を確立すべきだと改めて強調した。企業が自発的により厳格な安全対策を取ることが、業界全体を前進させる方法になり得ると考えている。

言い換えれば、アモダイの態度は変わり始め、業界全体への減速呼びかけから、企業自らが安全ガードレールを設置する方向へと転換した。

ジェンスン・フアンは「新しい法律も新しい規制も必要ない」と述べた。彼の見解では、速度と安全は二者択一の関係ではなく、企業は可能な限り迅速にモデル開発を進めることができる。もし制御不能になったり、製品の安全性が確保できなくなったりした場合には、一時停止して問題を解決すべきだという。

ベニオフの態度はよりオープンで自主性を強調するものだった。企業が減速すべきだと思うなら減速し、加速すべきだと思うなら加速すべきであり、同時に自らの決定に責任を持つべきだと述べた。

OpenAI創業者兼CEOのアルトマンはDreamforceの会場で、OpenAIひいてはAI業界全体が、公衆に重大な害を与えることなく安全に発展できると非常に自信を持っていると述べた。同時に、自身の見解が業界全体のAI開発速度の低下を支持するものだと外界に解釈されたことに失望を感じていると述べた。

言い換えれば、アルトマンもまた転換し始め、自身が伝えたかったのは業界の減速を呼びかけることではなく、安全と監視の取り組みが能力向上に先行すべきだという点だと強調した。

ザッカーバーグは、ある企業の安全への取り組みを、他のAI企業が同調して減速することを前提とすることに反対した。独立した評価機関や外部顧問を導入してモデルの安全性を検証することが業界のベストプラクティスだと彼は考えている。また、Metaは以前から他の企業がAI開発の減速について合意するのを待つのではなく、自らMuse AIツールの開発を減速させたことも明かした。

マイクロソフトCEOのサティア・ナデラの姿勢はある程度オルトマンと一致しており、ガードレールの設置を奨励し、十分な競争も奨励している。

「私たちがまずすべきことは人類に奉仕し、技術が人類の制御下にあることを確保することです。同時に、AI技術の広範な普及こそが最も重要であり、選択肢と競争がなければなりません。安全は真剣に取り組むべきですが、それを神秘化するのではなく、エンジニアリングと透明性のある方法で解決すべきです。」ナデラは9月15日にAll-In Summit 2026サミットで述べた。

これらの起業家に加えて、ワシントンからの声もさらに加わった。

トランプが直接ジェンスン・ファンに電話をかけ、AI産業の継続的発展への支持を公に表明した後、米国大統領科学技術顧問委員会のデビッド・サックス共同委員長は、テクノロジー企業は最先端AIを推進し続けることができると述べる一方、一部の企業が提唱する「減速」主張の背後にある動機に疑問を呈した。

03 誰がルールを作るのか？

議論が拡大するにつれ、論争はAIリスクそのものから、最先端AIの安全基準は企業が自ら策定すべきか、それとも政府や独立機関が介入すべきかという点にまでさらに広がっている。

ブルームバーグは関係者筋の情報として、Anthropic、Google、OpenAIが以前、AI業界標準機関の設立について議論していたと報じた。

7月、ハサビスは記事を発表し、米国主導のAI標準機関の設立を提唱した。運営モデルは米国金融業規制機構（FINRA）に類似している。この機関は先進AIモデルの正式展開前にテストを行い、対応する安全基準を満たしているか判断することができる。

ハサビスの構想によれば、この機関は完全に政府主導であるべきではなく、官民協力モデルを取るべきである。政府は監督役を担い、AI業界が資金を提供し、同時に独立したトップ技術専門家やオープンソースコミュニティの代表も参加させる。

ハサビスはモデルが現実世界に入る前に独立した安全チェックを追加しようとしており、これは米国政府が6月初旬に公表した規制ロジックに比較的合致している。企業はモデル公開前に自発的に政府に評価を委ねることができ、最長で公開前30日間のアクセス期間を提供でき、強制承認や公開許可は設けないと明確にしている。

かなり劇的なのは、その後のFable 5とMythos 5のリリースで、このプロセスに従わなかったが、極めて強力なサイバー攻防能力を有することが判明し、最終的に米国BISにより輸出管理の形で一時的にオフラインにされた。

しかし、それでもなお、政策の姿勢は安全ガードレールの設置を求めるにとどまり、減速を求める表明や指導は行っていない。

ハサビスと同様の見解を持つのは、OpenAIの首席科学者ヤクブ・パチョッキ（Jakub Pachocki）である。彼も9月初旬に、安全基準の共有と、AIのさらなる発展に向けた国際的な調整が、現在の優先事項となるべきだと強調した。

04 誰も本当にブレーキを踏んでいない

これまでのところ、この議論はフロンティアAI企業の発展ペースを実際に変えてはいない。

Anthropic、OpenAI、Google、xAIなどの企業は依然としてモデル研究開発を推進しており、計算資源、データセンター、AIインフラをめぐる競争も、この議論によって止まってはいない。資本市場の面では異なる変化が現れている。Anthropicは今年のIPOを依然として準備中であり、OpenAIはIPO計画を2027年まで延期した。

アモデイは業界全体を引き連れて立ち止まり、Anthropicとともにモデル能力の越境にガードレールを設置する解決策を探そうとしているが、ある程度は「他人の財布で気前よく振る舞う」ことだと理解できる。

これこそが、アモデイが「完璧無瑕の小さな天使を装っている」というレッテルを貼られる理由でもある。

このリスク管理の話題について、ジェンスン・フアンが代表する見解はむしろ現状により合致している。企業が懸念を抱く場合、あるいは問題を発見した場合、自ら解決策を模索し、模索して得た有効な方案を業界と共有すればよい。

100人のチームと1000人のチームを一緒に立ち止まらせることには、そもそもコンセンサスの基盤が存在しない。アモデイ自身も、自分だけが立ち止まれば、OpenAIなどの競合他社に追い越される可能性が高いことをよく理解している。

さらに重要なのは、コーポレートガバナンスの面での相違である。AnthropicもOpenAIも公益利益会社（Public Benefit Company）であり、「人類の未来のために短期的な財務利益を放棄する」と叫ぶことができ、「この点については我々は早くからコンセンサスを得ている」と投資家に伝えることができる。しかし、Google、Microsoft、Metaのような上場企業では、経営陣は流通市場の株主に対して法定の受託者義務を負っている。

この点において、異なる利益を持つ企業間でコンセンサスが形成される可能性も大きくはない。

もう一つ、見落とされがちな細部がある。「一時停止論」の前に、AnthropicとOpenAIは相次いで最強モデルを発表している。一つはFable 5.1、もう一つはGPT-6 Astraである。

多くの声が上がる中、他の企業の新モデルはまだリリースされるのだろうか？