動察 Beating AI 速報、ジェンスン・フアンはAll-InサミットでAnthropic CEOのダリオ・アモデイが提唱するフロンティアAI開発の減速に反対したが、ダリオが提案した独立第三者をフロンティアラボに入れて安全評価を行う方法には同意し、しかも複数の機関が同時に参加して評価の独立性が失われないようにするのが望ましいとした。
フアンは、現在最も危険なAI安全問題はまずフロンティアラボで発生すると考えている。なぜなら、これらの企業だけがモデル能力を限界まで押し上げる十分な計算力を持っているからだ。ラボはまずサンドボックス、監視、評価をしっかり整え、同時に財務監査のような外部チェックを受け入れるべきだと述べた。最強のAIを握るこれらの企業には、より高い基準を求めるべきだともした。
インタビューが半分進んだところで、トランプが突然フアンに電話をかけてきた。フアンはそのままスピーカーフォンにした。トランプはAIが世界を乗っ取るのは「詐欺」だと述べ、フアンはその場で「おっしゃる通りです」と同調した。トランプはさらに「ロボットは世界を乗っ取らない」「AIで勝った者が勝つ」とも言った。最後にフアンに自分と同じ考えかと尋ね、フアンは「はい、大統領」と答えた。
フアンはトランプと同様に減速に反対し、AI暴走の終末論にも同意しないが、フロンティアラボに外部監査を導入することについては、ダリオと珍しく同じ立場に立った。