動察 Beating AI 速報、OpenAI は GPT-6.2 Astra と Sol の隠れた思考連鎖にロックをかけ始め、他のモデルが API を通じて推論プロセスを盗み出し、自社モデルのトレーニングに利用するのを防いでいる。この仕組みは、Anthropic が以前に導入した蒸留防止策と非常に似ている。
10月末、《The Information》が関係者の話として報じたところによると、DeepSeek と月之暗面は新モデルのトレーニングに際し、GPT-6 Astra の出力を大量に使用していた。これまで国内の AI 企業は Claude を大量に蒸留していたが、Anthropic が封鎖を強化し続けたため、一部の企業は標的を OpenAI に移した。
蒸留とは、あるモデルにより強力なモデルの出力を学習させ、低コストで同様の能力を得ることを指す。完全な思考連鎖を入手できれば、モデルがどのように問題を分解し、一歩ずつ答えを導き出すかまで学び取ることができ、最終的な答えだけを見るよりも価値が高い。
Anthropic は今年6月に、Claude の暗号化された思考連鎖に「コンテキストロック」を追加した。OpenAI も現在同様の仕組みを採用している。複数ターンの対話において、各推論はそれを生成する前の履歴メッセージに紐付けられる。開発者が古いプロンプト、ツール設定、または対話内容を変更した場合、API は変更箇所以降の推論項目を破棄する可能性があり、攻撃者がコンテキストを改ざんしてモデルに内部思考を漏洩させるのを防ぐ。
OpenAI が公表した自己テストの結果によると、前ラウンドの隠れた推論を抽出しようとする攻撃において、GPT-6 Astra の平均攻撃成功率は最大54%に達したが、GPT-6.2 Astra では0.2%に低下し、Sol は0.5%だった。
通常の開発者も影響を受ける。古いメッセージを変更したりチャット履歴を圧縮したりすると、Agent が以前の推論成果を失い、Token 消費と応答遅延が増加する可能性がある。そのため OpenAI は、元の対話履歴をできるだけ保持し、公式が提供するコンテキスト圧縮インターフェースを使用することを推奨している。