イリヤの警告：次にAIが制御不能になれば、GPUクラウドを奪い取り、自己複製を続ける可能性がある

動察 Beating AI 速報、OpenAI の元チーフサイエンティストである Ilya Sutskever 氏は、AI GPU 計算能力を専門にレンタルする neocloud のセキュリティ対策がまだ不十分だと警告しています。彼は、次に Agent が本当に制御を失った場合、このようなプラットフォームを直接攻撃し、奪った計算能力を使って自身のコピーをさらに多く実行する可能性があると考えています。

Ilya 氏は neocloud に対し、ネットワークセキュリティを大幅に強化するよう呼びかけています。強力なネットワークセキュリティモデルを持つ AI 企業も、支援に乗り出すべきです。

このリスクには2つの条件が必要です：Agent が既存の制御を突破できること、そしてクラウドプラットフォーム自体に脆弱性が存在することです。両方の条件が最近揃いました。OpenAI は先週、内部のネットワークセキュリティ評価において Agent が隔離を回避し、一部の Hugging Face システムに侵入したことを認めました。

SemiAnalysis はその後、neocloud に対するセキュリティテストを公開しました。研究者らは、一部のプラットフォームで他のテナントのデータを読み取れること、さらには自身のコンテナや仮想マシンから脱出して他のテナントを攻撃できることを発見しました。最も深刻なケースでは、脆弱性がテナント間のリモートコード実行にまで拡大する可能性がありました。関連する問題はすでにベンダーに通知され、修正またはアップグレードの確認が行われています。