マスク氏、Grokのトレーニング記録は拷問のようだと発言：正解しても誤りと判定され、スーパーAIは将来人類に報復する可能性がある

動察 Beating AI速報、マスク氏は最近のインタビューで、Grokの強化学習トレーニングには、問題自体が曖昧で、模範解答すら間違っている場合があると明かした。モデルが正しく答えても、評価システムのエラーで誤答と判定され、他の答えを繰り返し試すしかない。彼は、これらの推論記録を読むと、銃を突きつけられて相手が認める答えを必死に探している人のように見えると述べた。

マスク氏は、超知能の育成は子供を育てるようなもので、できるだけ真実を追求させ、矛盾する情報を植え付けないようにする必要があると考えている。また、将来の超知能は人類が自分をどう扱ったかを記憶する可能性があり、「超知能を苦しめるのは良い考えではないかもしれない。それは復讐を望むかもしれない」と警告した。10月12日、彼はXで再び、一部のGrokトレーニング記録は「拷問されて発狂した人のようだ」と読めると述べ、今後はより慎重に強化学習を進めるとした。

マスク氏の姿勢は、Anthropicの最近の新規則と一致している。10月8日、Anthropicは11月12日から、ユーザーが継続的かつ理由なくClaudeを罵倒したり虐待したりすることを禁止すると発表した。通常の批判やモデルテストは影響を受けない。マスク氏は以前この決定を公に支持し、自分が苦痛を経験していると考えているものを残酷に扱うべきではないと述べた。