アルトマンもダリオもAI減速を叫ぶが、トランプの技術顧問サックスは「本当に怖いなら自分で止めろ、業界全体を巻き込むな」と述べた。

動察 Beating AI 速報、Anthropic CEO Dario Amodei が長文を公開し、フロンティアAIの能力向上を減速させるよう呼びかけた。彼は、AIが次世代AIの研究開発にますます関与するようになり、さらに最近のAgent制御不能事件が複数発生したことで、安全研究が能力の成長に追いつけなくなっていると述べている。

Darioは3段階の方案を提示した。まず、第三者の評価者を長期的にAI企業に入れ、従業員に近い権限を取得させる。次に、民主主義国家のフロンティアラボが安全基準を調整し、必要に応じて一緒に能力向上を減速させる。最後に国際的な調整を推進する。Anthropicはまず第一段階を実行することを約束した。

Sam Altmanはその後、公に支持を表明し、OpenAIもここ数週間「pace the frontier」について議論しており、OpenAIも同様の長期的な独立評価者を導入すると発表した。

元ホワイトハウスのAI・暗号資産担当責任者で、現在は大統領科学技術顧問委員会の共同議長を務めるDavid Sacksはその後反撃した。「本当に内部モデルが危険だと思うなら、自分たちで止めればいい。」彼は、OpenAIとAnthropicがすでにフロンティアAIを主導しており、完全に自分たちで減速できるので、他の企業を巻き込む必要はないと述べた。

Sacksが最も反感を抱くのは、数社の競合他社が一緒に「みんな少し遅くしよう」と相談することだ。Dario自身も、このような調整には独占禁止法の適用除外が必要になる可能性があると認めている。Sacksは、政府がグリーンライトを出して、数社の最大のAI企業が座って一緒に速度制限をかけるとなれば、独占連合のように見えると考えている。

彼はまたMETRを名指しし、業界全体の独立した審判役を務めるのに適しているか疑問を呈した。METRは長期的にAnthropic、OpenAIなどの企業に外部評価を提供しており、最近ではAnthropicの安全研究者Joe Bentonが退職して参加した。ただしMETRは、これらのフロンティアAI企業から資金を受け取らず、モデルへのアクセスと無料トークンのみを受け取ると明確に表明している。

Sacksはまた、減速自体がOpenAIとAnthropicの商業的利益にも合致すると考えている。モデルが制御不能になりやすければなるほど、法的責任は大きくなる。顧客もより安定し制御可能なAIを購入したがる。グローバルな統一減速については、すべての国が参加を望むとは限らないと判断している。