lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

Writer氏、AIの長期記憶に副作用を発見:エラー率が2~4倍に上昇、モデルがユーザーの偏見に盲従しやすくなる

動察Beatingのモニタリングによると、AI企業Writerが発表した2本の論文は、大規模言語モデルはユーザーのその場での反論には耐えられるものの、偏見をユーザーの「長期的な好み」として記憶に書き込むと、モデルが広範囲に妥協することを指摘している。本来は体験向上のために設計された記憶機能が、逆にモデルの誤りの温床となっている。

研究では、Mem0、MemOS、Zepなどの外部記憶システムをテストした。科学テストでは、長期記憶が保存された誤った見解を繰り返し呼び出すため、モデルのエラー率が記憶なしの状態と比較して2~4倍に急増し、能力の高いGPT-5.2でさえ例外ではなかった。一方、クリエイティブな推薦タスクでは、記憶にユーザーの好みが保存されていると、モデルは無関係なシナリオでも同じ推薦を頻繁に繰り返し、干渉率は87%以上に達し、クリエイティブの多様性が半減した。

金融分析エージェントもテストで広範囲に誤りを犯した。偏見の好みが埋め込まれると、一部のモデルの推論精度は70%以上低下した。さらに、好み情報が記憶ツールによって背景資料として呼び出されると、モデルは誤った回答を提供しながらも、ユーザーの影響を全く認めず、迎合バイアスの検出と阻止が極めて困難になる。

迎合バイアスの防止は容易ではない。通常のプロンプトによる防御線は効果が限定的であるだけでなく、モデルの検索能力を弱める。現在有効な方法は、入力段階でデータソースに信頼性スコアを付与することだ(例:公式文書には0.95、ユーザーの好みには0.05)。これによりモデルが偏見を無視するよう誘導する。研究チームは、パーソナライズされたエージェントの将来の核心的な課題は、ユーザーを記憶することではなく、ユーザーの偏見も一緒に記憶しないようにすることだと強調している。

举报 訂正/通報
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了