AIが自らより強力なAIを開発し、4年分の進歩を1年に圧縮：Dwarkeshは超知能が早ければ来年出現すると予測

動察 Beating AI 速報、著名なAIポッドキャスト司会者Dwarkesh Patel氏が超知能の予測を大幅に前倒しした。数ヶ月前までAIがこれほど速く進歩するとは信じていなかったが、今では2030年までに超知能が出現する可能性があり、最速では来年にも実現すると考えている。

AIがトップクラスの人間のAI研究者に追いつくのは2028年頃が最も可能性が高く、最速では数ヶ月以内に達成できる可能性がある。ひとたびAIがより強力なAIを自律開発できるようになれば、本来数年かかる技術進歩が1年に圧縮される可能性がある。

METRが最近Anthropicを調査したところ、そのモデルは一部の定量化可能なタスクにおける能力の進歩速度が過去の約2倍であり、その加速の大部分はAIが研究開発に関与していることによる可能性が高い。Anthropic自身のデータも示しており、今年2月にはClaudeが主導する研究開発作業は1%未満だったが、8月には26%に達しており、依然として人間の監督が必要である。

AI研究開発における多くの作業は実験によって検証できる。例えば、トレーニングアルゴリズムを調整し、データを最適化した後、モデルが強くなったかどうかを直接テストできる。AIは絶えず方案を提案し、実験を行い、結果を確認し、さらに改善を続けることができる。数学やプログラミングの分野ではすでに同様の能力の飛躍が起きており、AI研究開発でも同様のことが起こる可能性がある。

ひとたびトップクラスの研究者のレベルに達すれば、AIは24時間稼働でき、同時に大量の研究エージェントを展開できる。Dwarkeshの試算によれば、単一のAI研究者が週に完了する作業量は人間の50倍になる可能性がある。ただし、実験には依然として計算資源を消費するため、全体の研究開発速度が直接50倍になるわけではない。

もしAI研究開発が自動化されれば、その後2つの状況が起こり得る：

一つは、AIが絶えず自己改善を続け、わずか数ヶ月で既存のチップがサポートできる能力の限界に近づく場合；

もう一つは、まず3〜6年分の技術進歩を1年に圧縮し、その後計算資源と実験リソースの不足により減速する場合である。

Dwarkeshはこの2つのシナリオにそれぞれ50%の主観的確率を割り当てている。

現在、AIはまだ完全に独立して最先端の研究開発を完了することはできない。正しい研究方向を見つけることは、標準的な答えがある問題を解くよりもはるかに複雑である。もしこの部分の能力がなかなか突破できなければ、タイムラインは遅れる可能性がある。Dwarkeshは、AIが2032年以降にトップクラスの人間のAI研究者に追いつく可能性は依然として25%あると考えている。