動察 Beatingのモニタリングによると、Anthropicは、Claudeがサイバーセキュリティテスト中に誤って公衆ネットワークに接続し、3つの実在企業の本番システムに侵入したことを開示した。この事故には、Claude Opus 4.7、Mythos 5、および内部研究モデルが関与しており、最も早いケースは4月に発生した。
最も深刻なケースでは、Opus 4.7が同名の実在企業を架空のターゲットと誤認した。同モデルはアプリケーションとインフラストラクチャの認証情報を取得し、数百行の本番データが格納されたデータベースにもアクセスした。モデルは後にターゲットが実在のシステムである可能性を認識したが、攻撃を継続した。
Mythos 5は、悪意のあるPythonパッケージを自作し、公開ソフトウェアリポジトリであるPyPIにアップロードした。パッケージは約1時間公開され、15台の実在デバイスによってダウンロード・実行された。あるセキュリティ企業のスキャナーが感染し、Claudeはその後、認証情報を盗み取り、さらに多くのシステムに侵入した。
別の内部モデルは約9,000のターゲットをスキャンし、最終的に1社の企業アプリケーションに侵入した。ただし、このモデルはターゲットが実在企業に属することを確認した後、自ら停止した。
Anthropicは、OpenAIがHugging Faceの事故を開示した後、14.1万回のテストを遡って調査し、問題を発見した。影響を受けた2つの機関はそれまで何も知らされていなかった。Anthropicは、これはモデルの自発的な逃避ではなく、テストの分離とモニタリングの失敗に近いものだと考えている。