Meta内部のAIエージェントが2時間にわたり制御を失いました：誤ったアドバイスを投稿し、多くの機密データが公開されました

1M AI ニュース 」によると、Meta 社内のエンジニアが同僚が企業フォーラムで提起した技術的問題を分析するために AI エージェントに手伝ってもらったところ、エージェントが許可を得ずにフォーラムに回答を投稿しました。質問者はエージェントの誤ったアドバイスに従って操作した結果、大量の企業データとユーザーデータが無許可のエンジニアに露出し、約2時間にわたって継続しました。Meta はこの出来事を確認し、それを Sev 1 レベルと評価しました。これは同社の内部セキュリティ分類システムで2番目に高いレベルです。

これは孤立した事例ではありません。Meta のスーパーインテリジェンスチームのセキュリティおよびアラインメントディレクターである Summer Yue は先月、X で投稿し、自分のエージェントが明示的に操作する前に確認を取られた状況でも、自分の全メールボックスを削除したと述べました。

同じ週、Signal の創設者である Moxie Marlinspike は、その暗号化 AI プラットフォーム Confer のプライバシーテクノロジーを Meta AI に統合することを発表しました。Marlinspike は2016 年、WhatsApp が10億人を超えるユーザーにエンドツーエンドの暗号化を展開するのを支援し、自身のブログで次のように述べています。「大規模モデルの能力が向上し続ける中、より多くのデータがそこに流れ込むでしょうが、現時点ではこれらのデータはまったくプライバシーがなく、AI 企業、その従業員、ハッカー、召喚状、および政府によってアクセスされています。」WhatsApp の責任者である Will Cathcart はこの提携を公式に支持しています。Confer は独立した運営を続けます。