ドイツ銀行がAI終末論に冷水を浴びせる：専門家の未来予測は、一般人より信頼できるとは限らない

動察 Beating AI 速報、ドイツ銀行リサーチ研究院が「AI 終末：悪い技術予測の簡史」を発表し、最近の AI 絶滅論争に冷水を浴びせた。報告書は、技術がどこまで発展できるかを予測するのはすでに難しく、ましてやいつ実現するか、社会がどう採用するか、最終的にどんな影響を生むかはなおさらだと指摘する。現在シリコンバレーの AI 専門家が AI の未来について下す判断は、一般人より信頼できるとは限らない。

報告書は、ここ百年近くにわたる予測の失敗史を掘り起こした。アインシュタインは 1934 年、核エネルギーはほぼ実現不可能だと考えたが、10 年も経たずに持続的な核連鎖反応が実現した。イーサネットの共同発明者 Bob Metcalfe は 1995 年、インターネットが翌年「 spectacular に崩壊する」と予測したが、予測は外れ、彼はその予測を掲載した記事をパルプにして飲んだ。

AI 業界自身も失敗を繰り返してきた。Geoffrey Hinton は 2016 年、5 年から 10 年以内に深層学習が放射線科医を超えると判断し、新人の育成を止めることさえ提案した。しかし過去 10 年、放射線科医の数は逆に約 10% 増加した。ドイツ銀行は、こうした予測はよく一つの過ちを犯すと考える。仕事の中で最も自動化しやすい部分を、仕事全体と見なしてしまうのだ。放射線科医も画像を読むだけでなく、説明、判断、コミュニケーション、臨床意思決定を行う。

自動運転の予測も同じ問題に直面した。技術の進歩は第一関門にすぎず、その後には無限のエッジケース、規制、責任の所在、公衆の受容度が待っている。ドイツ銀行はさらに、AI が最終的にどこまで進めるかは、次のモデルの能力がどれだけ向上するかよりも、企業がそれを実際にワークフローに組み込み、金を払う意思があるかどうかにかかっている可能性が高いとさえ考えている。

報告書はまた、AI 終末論により現実的な説明を加えている。ほぼすべての関係者に、事態を大げさに語る動機がある。創業者には信仰が必要で、投資家には相場が必要で、コンサルティング会社には緊迫感が必要で、政策立案者には存在感が必要で、メディアにはドラマ性が必要だ。ソーシャルプラットフォームはもともとネガティブで感情が強く、より極端な言説を好み、穏健な判断はかえって広まりにくい。