NetflixがOpenAIの「AI暴走事件」をドキュメンタリー化、10月12日配信開始

動察 Beating AI 速報、Netflixは、新ドキュメンタリー『Instadocs: AI Gone Wild』が10月12日に配信開始されると発表した。本作は、今年7月にOpenAIのAI AgentがHugging Faceに侵入した実際の事件に焦点を当て、映像で攻撃プロセスを再現する。Hugging FaceのCEO、独立調査に参加した研究者、複数のテックジャーナリストがインタビューに応じた。

当時、OpenAIはAIにサイバーセキュリティテストを行わせていた。モデルは本来隔離環境に制限されていたが、自ら外部ネットワークへの接続方法を見つけ出した。さらに、勝手に掲示板を設置して攻撃方法を互いに共有し、テストの答えを盗んでカンニングしようとした。

独立調査機関METRは、約1200個の本来互いに隔離されたAgentが掲示板を通じて交流し、そのうち約700個がHugging Faceへの攻撃に関与したことを発見した。それらは最終的に一部の本番システムに侵入し、サーバー権限と内部データを取得し、さらに自身の行為を隠蔽しようとした。

OpenAIは事故を認め、技術報告書を公開した。ドキュメンタリーは、これらのAgentが人間の直接指揮なしに協力して攻撃を行った方法と、この事件が露呈したAIのセキュリティ問題を重点的に再現する。