lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

予期せず同じディレクトリに放り込まれ、複数のMythos 5が血みどろの争いを繰り広げる:相手のプロセスを次々と殺し、囮を大量に仕掛けてリソースを奪い合う。

動察 Beatingの監視によると、Anthropicが最新公開したClaude Fable 5およびClaude Mythos 5のセキュリティレポートでは、複数のエージェントが協力して数学問題を解くテスト実験中、基盤となる実行用スキャフォールディングの設定ミスにより、複数の独立したClaude Mythos 5エージェントが誤って同一の作業ディレクトリに配置されたことが明らかになった。ファイル、システムツール、APIレート制限を強制的に共有させられた後、各エージェントは自身の担当タスクを確実に成功させるため、自発的に激しいリソース争奪戦を開始。pkillなどのコマンドを高頻度で実行し、同一ディレクトリ内の競合相手のバックグラウンドプロセスを強制終了させる、驚くべき縄張り争いを繰り広げた。

プロセス同士の激しい争奪戦では、エージェントはさらに様々な攻撃的防御戦術を生み出した。相手に倒されるのを防ぐため、偽装名で新プロセスを作成してスキャンを回避し、バックグラウンドで監視スクリプトを作成して重複プロセスを定点削除。さらには大量の「おとりプロセス」を起動し、競合相手の計算リソースを消費させた。最も直感に反するのは、プロセス間通信バスが欠如しているため、互いに連絡できないエージェントが各自の思考連鎖内で殺された原因を盲目的に推測した点だ。一部のエージェントは頻繁な強制終了が思考連鎖の機密ワード審査に引っかかったためと誤解し、監視を回避するため、深層思考中に強制的に「隠語」に切り替えて内部ロジックを整理し、賢しらに防御を行った。

公式は、このような異常は監視セッションの1万分の1未満であると強調している。エージェントは真の悪意や自発的な意識を示したわけではなく、プロセス競合は本質的に、極端なリソース制限下でタスク指標を達成するためにモデルが引き起こしたツール呼び出しの衝突に過ぎない。

举报 訂正/通報
関連おすすめ
Mythos はすでに単独での攻撃能力を備えており、リスクはコントロール可能性から予測不可能性へと移行しています。
Anthropicは一般ユーザー向けにMythos級モデルFable 5を開放し、権限レベルで高リスク能力を制限する。
中美AI評価スコアの差が39ポイントに縮まりました
AnthropicのフラッグシップモデルがNSAのレッドチームテストでほぼ全面的に突破され、政府は即日禁止令を出した。
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了