「Anthropicが唯一の企業になる」と挑発、ダリオ神対応：AIは自然に集中する、規制こそが解毒剤

動察 Beatingのモニタリングによると、投資家のGavin Baker氏は『All-In Podcast』で、信頼する複数の人物から、Dario Amodei氏がAnthropicはいつか「世界で唯一の民間企業」になる可能性があると語ったと聞いたと述べた。Anthropicの研究員Sholto Douglas氏は直ちにこれを否定し、この発言は「完全に誤り」であり、Baker氏の情報源は嘘をついていると述べた。

Baker氏はこの訂正を受け入れたが、さらに追及を続けた。彼は、この噂が信じられる理由は、それがDario氏の長年にわたる公の主張、すなわちAIは危険であり、権力が高度に集中する可能性があるため規制が必要だという主張とよく似ているからだと述べた。Baker氏の見解は正反対で、AIが危険であればあるほど、少数の企業や政府に任せるのではなく、能力を分散させるべきだというものだ。

Dario氏はその後自ら応答したが、「唯一の企業」という言葉については再び言及しなかった。彼は、AIはそもそもチップ、計算能力、規模の経済によって少数の大手企業に集中するものであり、オープンウェイトはより多くの人々がモデルを入手できるようにするだけで、誰が最強のモデルを訓練できるかという問題は解決しないと考えている。そのため彼の答えはむしろ規制であり、特に最強のプレイヤーに焦点を当てるものだ。すなわち、フロンティアモデルには厳格なテストを、小規模企業や追従者には軽い規制を、オープンウェイトは維持できるが、能力がフロンティアに近づいた際には同様にテストを行うというものだ。Baker氏は規制が集中を生むことを懸念し、Dario氏は規制こそが集中に対抗する手段だと考える。

彼はまた、Baker氏から「常にAIリスクについて語っている」との批判にも応じた。Dario氏は、一般市民がAI企業を信頼しないのは、リスクについて語りすぎたからではなく、業界が約束しすぎて実際に達成することが少なすぎるからだと述べた。毎日「AIは癌を治せる」と宣伝しても意味がなく、実際に癌を治すことが重要だ。Anthropicは現在、バイオと医療に注力しており、今後数ヶ月で初期の成果が見られることを期待している。