動察 Beating AI速報、AnthropicがAgentの長期記憶に関する研究を発表し、Claudeの「Dreaming」メカニズムについて詳しく紹介した。Agentがタスクを継続的に実行すると、大量の会話、操作記録、ノートが蓄積される。しかしこれらの情報は古くなったり、相互に矛盾したりする可能性があり、本当に必要な時に必ずしも見つかるとは限らない。
Anthropicは記憶を4つの層に分けている:生の記録、厳選されたノート、相互に関連付けられたWikiナレッジベース、そして起動時に自動的に読み込まれる簡潔なインデックスである。Claudeはタスク実行中に重要な情報を随手記録できる。「Dreaming」はタスクの合間に履歴記録を振り返り、誤りを訂正し、古くなった内容を削除し、複数のタスクから新しい経験を抽出する。次回起動時には、Claudeは簡潔なインデックスを読み込むだけで、必要に応じて関連する記憶を検索でき、すべての履歴を再読する必要はない。
Anthropicは約35万件のStainless社内文書、合計4.2億Tokenを用いて実験を行った。研究者はOpus 5に128ラウンドのセッションを経て、継続的に文書を読み、Wikiを構築し、重複内容を統合し、事実を検証させた。
これらの文書に関する25問の質問において、検索ツールのみを使用した場合のスコアは53%であったが、段階的に改善されたWikiを加えると61%に達した。また、各質問に回答するごとに平均約2万Tokenを節約できた。複数の契約を総合しないと回答できない問題では、Wikiの優位性が特に顕著であるが、答えが単一の文書内にある場合は、通常の検索で十分である。
AnthropicはさらにClaudeに『ポケットモンスター 赤』をプレイさせた。旧版のSonnet 3.7は413件の記憶ファイルを記録したが、最終的に獲得したバッジは1つだけであった。新版のFable 5はわずか10件のファイルしか保持しなかったが、4つのバッジを獲得した。新版モデルは、保存する価値のある戦略と、いつでも再確認できるゲーム状態をより適切に区別できる。