OpenAIの首席科学者がAstra論争に応答：新アーキテクチャはモデルを突然ブラックボックス化させていない

動察 Beating AI 速報、OpenAI の首席科学者 Jakub Pachocki 氏は、Astra の循環アーキテクチャに関する外部の一部解釈に反論した。彼は、Astra を含む OpenAI の現在の最先端モデルでは、計算グラフの深さが GPT-4 と最大でも2倍しか差がなく、突然数桁増加したわけではないと述べた。

これは主に、The Information の以前の報道への応答である。その報道では、Astra が recurrent depth を使用し、同一の Transformer 層セットを繰り返し計算していると暴露された。一部の推論はモデル内部で発生できるため、すべてを思考連鎖として書き出す必要はなく、モデルがますます監視困難になるという懸念も引き起こした。

Pachocki 氏は、CoT 監視が確かに脆弱であり、より監視困難な方向へ進んでいることを認めた。しかし、その原因はモデルアーキテクチャの変更に依存しないと明確に述べた。OpenAI は第一世代の推論モデルから CoT 監視を保持・使用しており、現在もこの能力の強化を中核的な研究目標として掲げている。