ダリオのもう一つの顔：睾丸がんを患い、マスクを崇拝し、成人の死亡損失は乳児の3倍と考えている

動察 Beating AI速報、Anthropic CEO Dario Amodei（ダリオ・アモデイ）はかつて睾丸がんを患っていた。2014年、彼は診断後に化学療法を受け、最終的に完全に回復した。この経験はこれまであまり知られていなかった。11月5日、《ニューヨーク・タイムズ》はダリオの友人、同級生、元同僚20人以上にインタビューし、AI安全派の代表的人物のもう一つの側面を描き出そうとした。

ダリオの死と時間への関心は、さらに早くに遡ることができる。2006年、彼の父はC型肝炎で亡くなり、後に大多数の患者に治癒の機会をもたらす新薬を待つことができなかった。ダリオはもともと物理学を研究していたが、その後次第に生物学へと転向し、新技術によって医学の進歩を加速させたいと願った。友人によれば、彼は厳格な水泳トレーニングを続け、アンチエイジングサプリメントを試し、カロリー摂取を制限し、時間の有限性についてよく語り、時間は唯一再生できない資源だと考えていた。

早くも2007年には、ダリオはAIが人類の知能を超えるという構想に夢中になっていた。彼は友人に、技術的特異点は2040年に到来する可能性があり、人類は機械と融合することさえあるかもしれないと予測した。しかし同時に、AIが正しく開発されなければ、人類は終わりかもしれないと警告した。

当時、彼はAI安全思想家のEliezer Yudkowskyや効果的利他主義運動から強い影響を受け、マスクとも文通していた。二人の関係者によれば、ダリオは若い頃マスクを高く評価し、彼の会社で働くことさえ考えたが、最終的には実現しなかった。

2010年、ダリオは慈善団体GiveWellのブログに、大人は乳児よりも豊かで深い生活経験を持っているため、一人の大人の死によって生じる損失は、乳児の死の2倍から3倍になる可能性があると書いた。

当時、彼は二つの慈善プロジェクトを比較していた。一つは成人結核の防治に取り組み、もう一つはアフリカの子供たちのワクチン接種を支援するものだった。彼の生命価値の判断によれば、大人を救う方が有利だった。しかし最終的に、彼は1万ドル全額を子供のワクチンプロジェクトに寄付した。彼は後者の信頼できる実行プロセスと、効率的な慈善団体に報いることで生じうる長期的影響をより重視した。

より多くの人を助けるため、彼は科学研究を諦め、金融業界に転職することさえ考えた。2010年、彼はメールで、寄付に充てるためにより多くのお金を稼げるという理由で、金融の仕事を検討していると述べた。

理性的な計算を信じ、実行の信頼性を重視するこの思考様式は、AIに対する彼の見方にも表れている。彼は超知能AIが人類を滅ぼす可能性があると考え、だからこそ真に安全を重視し、信頼できる人々によって開発されなければならないとした。AI安全へのこの強い信念は、OpenAI内部で次第に、誰が技術を監督する権利を持ち、誰が中核プロジェクトに参加できるかをめぐる争いに発展していった。

2018年、OpenAIの研究者Joshua Achiamは、Darioが同社の最高倫理責任者に就任することに反対した。彼はAmodei兄妹の権力が過度に集中することを懸念し、外部の専門家を招き入れて、少数の人間がAIの倫理監督権を独占することを避けるべきだと主張した。関係者によると、Darioは面と向かって声を張り上げ、自分ほどこの職に適した人間はいないと固く主張した。

GPTプロジェクトをめぐっては、対立はさらに激しくなった。Darioと妹のDanielaが関連研究を主導した後、OpenAIの社長Greg Brockmanの参加を極力阻止した。Darioは何度もAltmanに最後通牒を突きつけた。Brockmanをプロジェクトから遠ざけなければ、自分は辞任すると。

Altmanは最終的に譲歩を拒否した。2020年12月、Dario兄妹は複数の同僚とともにOpenAIを去り、4週間後にAnthropicを設立した。この決裂には、研究成果の帰属、管理権、そして長年にわたって蓄積された個人的なわだかまりも絡んでいた。DarioはAltmanが自分の貢献を軽視していると考えており、Brockmanとは共に働けないと明確に述べたこともあった。

対照的なのは、2016年にトランプが初めて米国大統領に当選した後、DarioがOpenAIの内部メッセージで米国の政治の行方への懸念を表明していたことだ。彼は、投資家のPeter Thielがトランプを支持したことで道徳的に非難されるべきであり、OpenAIは彼の資金を受け取り続けるべきではないと考えた。しかし後に、Thielが設立したベンチャーキャピタルFounders FundはAnthropicの投資家となった。

現在、Darioが率いるAnthropicは、より厳格なAI安全監督を推進している。彼はまた、対中半導体輸出の制限、規制の強化、AIの暴走への警戒を主張し、黄仁勳やザッカーバーグなどのテック大手と公然と意見を異にしている。支持者は彼が責任ある形でAIを開発していると評価する一方、批判者は彼が少数の企業に過度な技術的権力を握らせようとしていると見ている。

Dario本人は今回の『ニューヨーク・タイムズ』の取材を拒否した。