Partnered With:

10年にわたる私怨は、OpenAIの「偽善」がなければ、世界最強のAI企業Anthropicは存在しなかっただろう

この記事を読むのに必要な時間は 10 分

世界のAI景観を形作るものは、技術的な進路だけでなく、癒えない個人の傷跡もあることを示しています。

原文タイトル：「AIの未来を形作る10年にわたる確執」

原著者：Keach Hagey

「ウォール・ストリート・ジャーナル」の記者Keach Hageyは、2つの企業の現職および元従業員、および幹部の関係者に大量のインタビューを行い、AnthropicとOpenAIの創業者間に10年にわたる個人的確執を初めて体系的に明らかにしました。世界のAIの展望を形作っているのは、技術路線の論争だけでなく、決して癒えない個人的トラウマも関与しています。

Dario Amodeiは、ここ数か月の内部での言辞が、一般向けの場でのそれより激しかったです。彼はSam AltmanとElon Muskの法廷闘争を「ヒトラーとスターリンの闘い」と呼び、OpenAIのCEOであるGreg Brockmanがトランプ支持のスーパーPACに2500万ドルを寄付したことを「邪悪（evil）」と表現し、OpenAIやその他の競合他社を「害を知りながら製品を販売しているタバコ会社」に例えています。

五角形の争いが激化すると、彼はSlack上でOpenAIを「虚偽(mendacious)」と位置付け、「これらの事実は、Sam Altmanに度々見られる行動パターンを示している」と述べました。

Anthropic内部では、このブランド戦略を競合他社に対する「健康な代替品」の構築と呼んでおり、今年のスーパーボウル中に、匿名のOpenAIのチャットボットに広告が埋め込まれていることを皮肉った広告が、その公開された産物でした。

物語の始まりは、2016年にサンフランシスコのDelano Streetのシェアハウスのリビングでした。Darioと姉のDaniela Amodeiがここに住んでおり、OpenAIの共同創設者であるBrockmanはDanielaとの親交からよく訪ねていました。ある日、Brockman、Dario、そしてDanielaの当時の婚約者であり効果的利他主義の慈善家であるHolden Karnofskyは、AIの適切な発展パスについて議論していました：Brockmanは、先進的なAIの進展についてすべてのアメリカ人に通知すべきだと考えていましたが、DarioとKarnofskyは、機密情報は政府に最初に報告すべきであり、公に放送すべきではないと考えていました。この違いは後に、両社の哲学的方針の分岐点となりました。

OpenAIの才能あるチームに魅了された後、Darioは2016年中に参加し、Brockmanと一緒に夜通しAIエージェントをトレーニングしてビデオゲームをプレイしました。しかし、4年間の共同作業の中で、権力と所属意識に関する対立がますます深まりました。2017年、当時のOpenAIの主要出資者であるMuskは、各従業員の貢献をリストアップするよう求め、その結果、約60人のチームのうち10％から20％が一掃されました。Darioはこれを残酷だと考え、解雇された1人は後にAnthropicの共同創業者となりました。

同年，ダリオが雇った倫理顧問はOpenAIをAI企業と政府の間の調整機関として機能させる提案を出し、Brockmanはこれから「AGIを国連安全保障理事会の核保有国に売る」という考えを引き出しました。ダリオはこれをほとんど反逆と見なし、一時は辞職を考えました。

2018年、Muskが退任した後、Altmanがリードを引き継ぎました。彼はダリオと合意に達しました：従業員はBrockmanとチーフサイエンティストのIlya Sutskeverのリーダーシップに自信がないと感じていました。ダリオは、これら2人がもはや責任者ではないという条件で留まることにしましたが、すぐにAltmanが両名に自分を解雇する権利があると約束したことに気づき、この2つの約束が互いに矛盾していることに気づきました。

GPTシリーズの開発が始まると、言語モデルプロジェクトへの参加を巡って、経営陣の間で激しい論争が勃発しました。当時の研究ディレクターであるダリオは、Brockmanが関与することを許可せず、このプロジェクトを共同でリードするAlec Radfordと共に、自分を解雇すると脅迫するDanielaに直面しました。Radfordの個人的な意思は、経営陣の代理戦争に巻き込まれました。

Darioの経歴は、GPT-2とGPT-3の成功によりますます高まっていきましたが、彼は自分の貢献がAltmanによって軽視されていると感じていました。BrockmanがOpenAI憲章に関してポッドキャストで話す際、招待されなかったにも関わらず、より大きな貢献をしたにもかかわらず不満を持っていました。BrockmanとAltmanが元大統領オバマに会いに行くと知りながら自分が除外されたことを知ると、同様に不満を持ちました。

矛盾は会議室での対立で完全にエスカレートしました。AltmanはAmodei兄妹を会議室に呼び、同僚が自分に対して否定的なフィードバックを取締役会に提出するよう仕向けていると非難しました。2人は否定しました。Altmanは情報の出所は別の幹部だと述べ、Danielaはその幹部を直ちに現れさせて対面しましたが、その幹部は何も知らないと話しました。

Altmanはすぐに自分がそのような発言をしたことを否定し、両者は激しく口論しました。2020年初頭、Altmanは役員が相互にピアレビューを書くことを求め、BrockmanはDanielaが権力を乱用し、官僚主義的な手続きで異論を排除していると非難する強いフィードバックを書きました。Altmanは「厳しいが公平」と事前にコメントしました。「Danielaは反論し、議論はBrockmanがコメントを取り下げることを一度提案したまでエスカレートしました。

2020年末、ダリオを中心とするチームはOpenAIを離れることを決定し、Danielaが先導し、弁護士との退職交渉を行いました。Altmanはダリオの自宅を訪れ、直接取締役会に報告することを受け入れ、Brockmanとは共に仕事ができないことを明確にしました。退職前に、彼はAI企業を「市場志向型」と「公共利益型」の2つに分類し、理想的な配分は公共利益が75％、市場が25％であると考えました。数週間後、Dario、Daniela、および約12人の従業員がOpenAIを離れ、Anthropicを設立しました。

今日から5年後、両社の企業価値はどちらも3000億ドルを超え、IPOを先取りするために競っています。2月に開催されたニューデリーAIサミットで、インドの首相モディは現場のテックリーダーたちと手を高く掲げましたが、AmodeiとAltmanは参加せず、ただぎこちなく肘をぶつけるだけでした。