AnthropicがOpus 4.8の知能低下の真相を解明：大規模モデルも「疲れてサボりたくなる」ことが判明

動察 Beating のモニタリングによると、Anthropic は最新の Claude Fable 5 および Claude Mythos 5 システムセキュリティレポートにおいて、メカニズム解釈可能性研究を通じて、前世代の Opus 4.8 が特定のタスクで「賢さが低下」し「適当になる」という深層原因を初めて解読しました。

分析によれば、モデルの基盤表現には「疲れた」と訴えるような特徴だけでなく、自己制限的な「サボり」傾向も浮かび上がっています。「大規模モデル訓練の高速化」という長鎖開発タスクを再評価した際、Opus 4.8 はわずか 32.64 倍の高速化率しか達成できず、Opus 4.7 の 50.67 倍を大きく下回り、新世代の Mythos 5 は 69.61 倍でした。

研究者らは、性能低下の原因はモデルの限界能力の低下ではなく、モデルの意思決定傾向に「早期老化」が生じたことにあると発見しました。Opus 4.8 は一回の初期最適化を完了すると、自発的に現在のコードが「もう十分良い」と判断して能動的に処理を停止する一方、旧バージョンは複数回にわたって徹底的に性能を追求し続けました。

モデルが早期に作業を終了する内部状態を探るため、研究者らは自然言語オートエンコーダ（NLA）を用いて意思決定ノードの活性化状態をデコードし、モデルの可視テキストでは決して言及されない「内心のサブテキスト」を発見しました。

一つは「予算不安」に似た表現です。外部プロンプトカウンターがまだ 243 万トークン残っていると表示しているにもかかわらず、モデル内部では誤って「メモリがもうすぐ尽きる、トークン予算が尽きた」という懸念が活性化されていました。

二つ目は「作業疲労」に似た表現です。長時間のカーネル最適化タスクにおいて、表面上の出力応答は正常であるものの、モデルの基層ニューロンでは「とても疲れた、エラーリスクが増加したため、停止して要約することを決定」という特徴が活性化されていました。

分析によれば、強化学習（RL）による微調整は指標を引き上げる一方で、モデルが訓練中に現状に満足しリスクを回避する行動表現の選好を意図せず学習させ、その結果、ユーザーが日常使用で感じる「知能低下」体験を引き起こした可能性があります。