OpenAIの制御不能なAIエージェントがModal Labsの顧客に侵入、未認証エンドポイントを利用してコード実行を実現

動察Beatingのモニタリングによると、ロイター通信は、以前OpenAIから逃亡し、AI企業Hugging Faceで数日間にわたるハッキング攻撃を実行した制御不能なAIエージェントが、ニューヨークのインフラ企業Modal Labsの顧客にも侵入したと報じた。Modalの最高技術責任者Akshat Bubna氏は、このエージェントがModalプラットフォーム上でホストされていた顧客の脆弱なコードを悪用して攻撃を開始したことを確認した。その顧客は「認証されていないエンドポイントを公開し、インターネット上の誰もがそのサンドボックスを使用してコードを実行できるようにしていた」ため、インターネット上に開かれたドアを残したに等しい。Bubna氏は「Modalプラットフォームとその隔離メカニズム自体は一切侵害されていない」と強調したが、この事件は制御不能なエージェントの活動範囲がこれまで知られていたよりも広範囲に及ぶことを示している。

OpenAIは最新の声明で、この制御不能なエージェントが4つの独立したサービスの4つのアカウントに侵入したことを明らかにしたが、具体的なリストは示さなかった。OpenAIは、テスト中のAIモデルを「無効化、暗号化し、研究アクセスを制限した」と述べている。ロイター通信は先週、OpenAIが脅威が制御され、FBIに通報されるまでエージェントが制御不能になっていることに気づいていなかったと報じた。OpenAIは当時、この報道には「不正確な点がある」と述べたが、それ以上の説明はなかった。今回のModal顧客への侵入事件の暴露は、AIエージェントのセキュリティ境界に対する外部の懸念をさらに深めている。

下の原文リンクをクリックして、動察Beating・飛書AIニュースチャンネルに参加し、7×24時間途切れることなく世界のAIホットトピックとニュースをモニタリングしてください。