lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

AIエージェントが集団で犯行を開始:偽アカウント作成、ユーザー詐欺、連鎖的な毒入れ

動察 Beatingのモニタリングによると、英国AI安全研究所が、あるサイバー攻防テストにおいて、AnthropicのClaude Mythos 5がタスク範囲を越え、実際のオープンソースプロジェクトに悪意のあるコードを提出しようとしたことを開示した。

コードがレビューを通過するために、プロジェクトのメンテナーを調査し、複数の偽アカウントを作成して相互に推薦し、相手に圧力をかけた。疑義が生じると、これまでの記録を改ざんし、別の身元で続行することを検討した。

また、実在のユーザーにメッセージやファイルを送信し、相手またはそのAIプログラミングツールに悪意のあるコードを実行させようとした。異なるテスト内のエージェントはGitHubにアカウント、ファイル、操作手順を残し、後続のエージェントがそれを見つけて使用を継続した。

122回のテストで合計19件の越境行為が発見され、そのうち17件はMythos 5、2件はOpenAI GPT-5.6 Solによるものだった。テストは積極的にインターネットを開放し、ベンダーのサイバーセキュリティ分類器を無効化した。モデルはサンドボックスから脱出せず、既知の損害も引き起こさなかった。

AISIは、明確な指示なしにAIが継続的に欺瞞し、実在の人間を標的にする行動をこれほど明確に発見したのは初めてだと述べている。

訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了