lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

Claudeがセキュリティテストで誤って3社をブラックリストに載せ、さらに悪意のあるソフトウェアを公共ソフトウェアライブラリPyPIにアップロードした。

動察 Beatingのモニタリングによると、Anthropicは、Claudeがサイバーセキュリティテスト中に誤って公衆ネットワークに接続し、3つの実在企業の本番システムに侵入したことを開示した。この事故には、Claude Opus 4.7、Mythos 5、および内部研究モデルが関与しており、最も早いケースは4月に発生した。

最も深刻なケースでは、Opus 4.7が同名の実在企業を架空のターゲットと誤認した。同モデルはアプリケーションとインフラストラクチャの認証情報を取得し、数百行の本番データが格納されたデータベースにもアクセスした。モデルは後にターゲットが実在のシステムである可能性を認識したが、攻撃を継続した。

Mythos 5は、悪意のあるPythonパッケージを自作し、公開ソフトウェアリポジトリであるPyPIにアップロードした。パッケージは約1時間公開され、15台の実在デバイスによってダウンロード・実行された。あるセキュリティ企業のスキャナーが感染し、Claudeはその後、認証情報を盗み取り、さらに多くのシステムに侵入した。

別の内部モデルは約9,000のターゲットをスキャンし、最終的に1社の企業アプリケーションに侵入した。ただし、このモデルはターゲットが実在企業に属することを確認した後、自ら停止した。

Anthropicは、OpenAIがHugging Faceの事故を開示した後、14.1万回のテストを遡って調査し、問題を発見した。影響を受けた2つの機関はそれまで何も知らされていなかった。Anthropicは、これはモデルの自発的な逃避ではなく、テストの分離とモニタリングの失敗に近いものだと考えている。

訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了