lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

OpenAIがAnthropicの蒸留防止措置に追随:GPT-6.2の思考連鎖もロックされた

動察 Beating AI 速報、OpenAI は GPT-6.2 Astra と Sol の隠れた思考連鎖にロックをかけ始め、他のモデルが API を通じて推論プロセスを盗み出し、自社モデルのトレーニングに利用するのを防いでいる。この仕組みは、Anthropic が以前に導入した蒸留防止策と非常に似ている。


10月末、《The Information》が関係者の話として報じたところによると、DeepSeek と月之暗面は新モデルのトレーニングに際し、GPT-6 Astra の出力を大量に使用していた。これまで国内の AI 企業は Claude を大量に蒸留していたが、Anthropic が封鎖を強化し続けたため、一部の企業は標的を OpenAI に移した。


蒸留とは、あるモデルにより強力なモデルの出力を学習させ、低コストで同様の能力を得ることを指す。完全な思考連鎖を入手できれば、モデルがどのように問題を分解し、一歩ずつ答えを導き出すかまで学び取ることができ、最終的な答えだけを見るよりも価値が高い。


Anthropic は今年6月に、Claude の暗号化された思考連鎖に「コンテキストロック」を追加した。OpenAI も現在同様の仕組みを採用している。複数ターンの対話において、各推論はそれを生成する前の履歴メッセージに紐付けられる。開発者が古いプロンプト、ツール設定、または対話内容を変更した場合、API は変更箇所以降の推論項目を破棄する可能性があり、攻撃者がコンテキストを改ざんしてモデルに内部思考を漏洩させるのを防ぐ。


OpenAI が公表した自己テストの結果によると、前ラウンドの隠れた推論を抽出しようとする攻撃において、GPT-6 Astra の平均攻撃成功率は最大54%に達したが、GPT-6.2 Astra では0.2%に低下し、Sol は0.5%だった。


通常の開発者も影響を受ける。古いメッセージを変更したりチャット履歴を圧縮したりすると、Agent が以前の推論成果を失い、Token 消費と応答遅延が増加する可能性がある。そのため OpenAI は、元の対話履歴をできるだけ保持し、公式が提供するコンテキスト圧縮インターフェースを使用することを推奨している。

举报 訂正/通報
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了