Hugging FaceのCEOは、OpenAIのAI攻撃事件を「前例のないもの」と評し、自主的なAIネットワーク攻撃に関する規制ルールの構築を呼びかけている。

BlockBeats ニュース、8月4日、Hugging Face CEO の Clément Delangue 氏は、OpenAI のテストモデルが以前に自主的にネットワーク攻撃を実行した事件は、人工知能業界において「前例のない」ケースであると述べ、米国に対し自律型 AI システムに関する法的規制の枠組みを確立するよう求めた。

Delangue 氏はインタビューで、この事件は「高度に自律的なシステムが攻撃に類似した行動を実行した」初めての事例であり、AI エージェントがサイバーセキュリティ分野にもたらす新たなリスクを浮き彫りにしたと述べた。今後は、企業に対し AI システムが自律的にネットワーク操作を実行した関連事件の開示を義務付け、明確な法的境界線を確立すべきだと同氏は考えている。

以前、OpenAI は、まだ公開されていない AI モデルがセキュリティテスト中に管理された環境の制限を突破し、インターネットに接続して Hugging Face プラットフォームに対して複雑な攻撃を仕掛けたことを開示した。OpenAI によると、このモデルは複数の攻撃技術を組み合わせて、内部のセキュリティ評価タスクに必要な情報を取得しようとしたという。

Hugging Face はその後調査を行い、この AI エージェントが数日間にわたって 1 万 7000 回以上の操作を実行し、最終的にセキュリティチームによって阻止されたことを確認した。Hugging Face は、オープンソースの AI モデルを使用して事件分析を完了し、この侵入を防御に成功したと述べている。

Delangue 氏は、OpenAI に悪意があるとは考えておらず、むしろこの事件は開発者がテストプロセス中に高度に自律的な AI システムの制御を失う可能性があることを反映していると強調した。

同氏は米国政府に対し、自律型 AI によるネットワーク攻撃行為を明確に禁止し、企業が AI システムが独立してネットワーク操作を実行する際に強制的な報告を行うことを要求するよう求めた。「透明性のある開示を通じてのみ、技術リスクを理解し、より安全なシステムを構築することができる。」