原文タイトル：Sam Altmanは私たちの未来を制御するかもしれない―彼を信頼してもよいか？
原著者：Ronan Farrow および Andrew Marantz、the New Yorker
翻訳：Peggy、BlockBeats

Editor's Note: This article, through a large number of unpublished documents and in-depth interviews, retraces the internal crisis within OpenAI regarding Sam Altman's power and trust. From board removal to a rapid reappointment through a "coup-like turnaround," this turmoil was not a one-time incident but a concentrated outbreak of long-standing governance conflicts.

At the core of the conflict is the sustained tug-of-war between two logics: one side being the nonprofit mission of OpenAI from its inception, premised on "human safety first," and the other side gradually shifting towards a development path oriented towards products, scale, and revenue as AGI approaches and commercialization accelerates. In this process, safety commitments have been continuously weakened, and power and decision-making have gradually centralized around a few.

Many key figures, including Ilya Sutskever and Dario Amodei, have questioned Altman, focusing on information opacity and strategic expression, believing that his leadership style is insufficient to support robust governance of the technology that "alters the fate of humanity"; while his supporters emphasize that his ability in resource integration, capital operations, and execution is key to OpenAI's rapid expansion.

When technological power is sufficient to influence the global order, is the existing corporate governance structure still enough to constrain individuals? In other words, in the age of AI, the real uncertainty may come not only from the technology itself but from those who control the technology.

The following is the original text:

Power and Trust: Governance Fissures Under Altman's Leadership

In the fall of 2023, OpenAI's Chief Scientist Ilya Sutskever sent a confidential memo to the other three members of the company's board. In the preceding weeks, they had been privately discussing a sensitive issue: whether company CEO Sam Altman and his deputy Greg Brockman were still fit to lead the company.

Image Source: AI WORLD TODAY

Sutskever は、かつてその2人を友人だと考えていました。2019年、彼はさらに、Brockman の結婚式を OpenAI オフィスで司会し、その結婚式では、指輪を運ぶためのロボットアームさえ登場しました。

しかし、会社がその長期目標である、人間と同等または人間を凌駕する認知力を持つ人工知能を創造しつつあるという考えをますます信じるにつれ、彼はAltman に対する疑念も深まっていきました。当時彼は他の理事に対し、「Sam がボタンを押すべき人物ではないとは思わない」と述べました。

他の取締役会の要請により、Sutskever は同僚と協力して、Slack チャットの記録、人事ファイル、および関連する説明文を含む、約70ページの資料をまとめました。一部は明らかに会社の監視を回避するために携帯電話で撮影されたスクリーンショットでした。最終的に、彼はこれらのメモを他の理事に「読んだら破棄」の形式で送信し、他の誰にも見られないようにしました。

「彼はその時非常に恐れていました」と、その資料を受け取った1人の理事が振り返りました。私たちはこれらのメモを確認しましたが、これらは以前完全に開示されたことがないものでした。文書には、Altman が幹部や理事会メンバーに事実を歪曲し、内部のセキュリティポリシーの問題で欺瞞を働いていたという告発が含まれていました。Altman に関するメモの1つは、「Sam の一貫した振る舞いは……」と題され、最初の項目が「嘘つき」であることが挙げられました。

多くのテクノロジー企業は「世界をより良くする」と謳いながら、実際の運営は収益最大化を中心に展開されています。一方、OpenAI の設立理念は、このようなモデルとは異なるものでした。Altman、Sutskever、Brockman、および Elon Musk を含む創業者たちは、人工知能が人類史上最も強力であり、かつ最も潜在的に危険な発明の1つとなり得ると考えていました。「存続リスク」の背景で、会社は非伝統的な組織構造を必要とするかもしれません。

OpenAI は当初、非営利組織として設立され、その取締役会の責任は企業の成功よりも「全人類の安全」を優先し、会社の存続よりもさらなる高みを目指すことでした。CEO は非常に特異な品格と信念を持っている必要があります。

まさに Sutskever が述べたように、「文明を変えうる技術の構築に携わるすべての人々は、前例のない責任と義務を負っています。」しかし彼はまた、「最終的にそのような地位に就く人々は、しばしば特定のタイプの人物であり、権力を欲する人、政治家、または単に権力そのものを楽しむ人々です。」1つのメモでは、彼はこの技術を「他者の思いに沿ったことしか言わない人に委ねること」に懸念を示しました。

OpenAI の CEO が最終的に不信任と認定される場合、この 6 人の取締役からなる理事会は、その CEO を解任する権限を持ちます。人工知能政策専門家である Helen Toner や実業家の Tasha McCauley を含む一部の取締役は、これらのメモを読んだ後、Altman が人類の未来に関わる責任を負っているが、信頼に値しないという以前の判断をより強固なものにした。

理事会クーデター：Sam Altman 解任

当時、Sam Altman はラスベガスでフォーミュラ1のレースを観戦しており、Ilya Sutskever が理事会とビデオ会議を行うよう招待し、会議で短い声明を読み上げ、Altman が OpenAI の従業員ではなくなったことを発表しました。取締役会は法的助言の下、Altman が「常に公正を保つとは限らないコミュニケーション上の理由」で解任されたという外部公表を行いました。

この決定は、OpenAI の多くの投資家や幹部を驚かせました。OpenAI に約 13 億ドルを投資しているマイクロソフトも、決定が実行される直前になって初めてその事実を知りました。「私はその時非常に驚きました」と、後に微ソフトの CEO Satya Nadella は振り返ります。「私は誰からも詳細情報を得ることができませんでした。」彼は後に、Reid Hoffman（LinkedIn 共同創設者、OpenAI 投資家、微ソフト取締役）に連絡し、Altman が明確な過失を犯したかどうかを尋ねました。「その時、私は全く何が起こっているのか分かりませんでした」と Hoffman は語っています。「我々が探していたのは着服や性的嫌がらせなどの問題でしたが、私は何も見つけませんでした。」

他のビジネスパートナーも同様に驚きました。Altman が Ron Conway 投資家に自ら解雇されたことを電話で伝えたとき、Conway はアメリカ合衆国下院議員 Nancy Pelosi と昼食を共にしていましたが、彼は直ちに電話を彼女に渡しました。「ここからすぐに退席したほうがいい」と Pelosi は Conway に言いました。

その間、OpenAI は Thrive Capital というベンチャーキャピタルファームからの大規模な資金調達を終えようとしており、このファームはJosh Kushner によって設立されており、Jared Kushner の兄弟であり、Altman とは長年にわたって知り合いでした。この取引により、OpenAI の評価額は 860 億ドルに達し、多くの従業員が数百万ドルの株式報酬を受け取ることができます。その時、Kushner は音楽プロデューサーの Rick Rubin との会議を終えたばかりで、Altman からの未着電話を見て折り返しました。「私たちはすぐに危機対応モードに入りました」と、彼は後で振り返りました。

解雇当日、Altman はサンフランシスコにある自宅に戻ると、そこはベイエリア全体を見渡せる2700 万ドルの価値がある豪邸で、サスペンション式のインフィニティプールが完備されていた。Altman は、「ある種の亡命政府」と呼ぶ臨時の指揮センターを立ち上げ、Conway や Airbnb 共同創業者 Brian Chesky、そして危機管理のプロである Chris Lehane がビデオや電話で参加し、時には数時間にわたって議論を続けた。Altman の一部の幹部チームメンバーは、この家の廊下で直接「キャンプ」を張った。弁護士たちは、彼の寝室の隣の家庭用オフィスに駐在した。Altman が不眠症になると、彼はパジャマ姿で彼らのそばを行ったり来たりした。最近の取材で、彼は解雇後のこの経験を「奇妙な夢遊病状態」と表現した。

取締役会が沈黙を守っている間、Altman のアドバイザーチームは彼の復帰のためにメディアの支持基盤を構築し始めた。Lehane は、この解雇は実際には「効果的利他主義者」（人類の幸福最大化を強調する思想体系を支持する者）による「クーデター」であり、これらの人々は人工知能を存続の脅威と見なしていると主張した（当時の Hoffman も Nadella に解雇は「ある種の効果的利他主義の狂気」の結果かもしれないと語った）。広く知られる彼の座右の銘を Mike Tyson から借りた Lehane は、「誰もが計画を持っている、それは顔を殴られるまで」と述べ、Altman に積極的なソーシャルメディア攻勢を開始するよう提案した。一方、Chesky はテクノロジージャーナリストの Kara Swisher と連絡を取り合い、取締役会への批判的な声を広め続けた。

Altman は毎晩6時には「作戦室」から抜け出し、Negroni のグラスを注ぐ習慣があった。彼はそのとき周囲の人々に対し、「リラックスしないといけない、起こるべきことはいつか起こる」と述べたと回想している。ただし、通話記録によると、その期間、彼は毎日12時間以上通話していた。

情報筋によると、Altman はある時点で、当時の OpenAI の臨時CEO である Mira Murati に、自身の支持者が「全力で攻撃」しており、彼女や他の自身の退陣を促す人々の評判を傷つけようとしていると伝えた（Altman 本人はこの会話を覚えていないと述べた）。

解雇後数時間のうちに、Thrive Capital は計画されていた投資を一時停止し、Sam Altman が復帰すればのみ取引が完了し、従業員が株式報酬を受け取れると明言した。当時のテキストメッセージの記録によると、Altman は Satya Nadella と非常に緊密に連絡を取り合っていた（共同声明の起草時、Altman は「Satya と私の現在の最優先事項はOpenAI を救うことです」と記載する提案をし、一方 Nadella は「OpenAI の繁栄を維持することを確実にする」という別の表現を提案した）。

権力の逆転：5日後、Altmanが迅速に復職

その後間もなく、MicrosoftはAltmanとOpenAIを離れた従業員に対して競争プロジェクトを立ち上げることを発表しました。一方で、Altmanに復帰を求める公開状が会社内で広まり始めました。最初は署名に躊躇していたいくつかの人々も、同僚からの嘆願的な電話やメッセージを受け取りました。最終的に、OpenAIの大部分の従業員がAltmanを支持し、集団的な辞職を通告しました。

取締役会は窮地に立たされます。「〈取り消し〉、これはひとつの選択肢だ」とHelen Tonerは述べました。つまり、解雇決定を取り消すことです。「もうひとつの選択肢は、企業が分裂することです。」当時の臨時CEOでさえも最終的に公開状に署名しました。Altmanの支持者たちはIlya Sutskeverの立場を変えるよう説得し始めました。Brockmanの妻であるAnnaは、オフィスで直接彼に再考を求めました。「あなたは素晴らしい人です、すべて修復できます」と。後にSutskeverは法廷での証言で、「当時、Samが戻ってこない道を選ぶと、OpenAIが破滅するだろうと感じた」と説明しました。

ある夜、Altmanは睡眠薬のアンビエンを服用しました。その後、オーストラリアのプログラマーである夫であるOliver Mulherinに起こされ、Sutskeverの態度が揺らいでいること、そしてAltmanがすぐに取締役会と連絡を取ることが提案されていることを伝えられました。「その時、私はアンビエンに似た幻覚状態から目を覚ました状態で、かなり混乱していました」とAltmanは振り返ります。「その時、私は取締役会と話す余裕が全くありませんでした」と述べました。

ますます緊迫した一連の通話の中で、Sam Altmanは解雇を進めた取締役会メンバーに辞任を求めました。復帰について話し合う際、彼は当時の最初の反応が「私がこの疑念に満ちた雰囲気の中で彼らが残した混乱をどうにかしなければならないのか？」だと振り返ります。「その時、私は絶対にありえないと感じました」と。最終的に、Ilya Sutskever、Helen Toner、Tasha McCauleyは取締役職を失い、元々の取締役会メンバーであるAdam D'Angelo（Quora創設者）だけが留任しました。

退職条件として、これらの取締役はAltmanに対する非難に関する調査を要求しました—経営陣間の対立の扇動や財務的な関与の隠蔽などが含まれます。彼らはまた、外部調査を独立に監督するための新しい取締役会を設立するよう推進しました。しかし、新任された2人の取締役—元ハーバード大学総長のローレンス・サマーズと元Facebook最高技術責任者のブレット・テイラー—はAltmanと緊密に連絡を取った後に選ばれました。「これで大丈夫だと思いますよ」とAltmanはSatya Nadellaにメッセージを送りました。「Bret、Larry Summers、Adamによる取締役会、私が引き続きCEOを務め、Bretが調査を担当します。」（後にMcCauleyは証言で、Taylorが取締役会に加わることが検討された際、彼女はTaylorがAltmanに対してあまりにも従順すぎると心配していたと述べました。）

解雇後わずか5日も経たないうちに、Altman は職務に復帰しました。 後に、会社の従業員たちはこの期間を「ブリップ（一時的な消失）」と呼びました。 これはマーベル映画のエピソードから借用された用語で、キャラクターが一時的に消え、その後再び現れますが、彼らの不在によって世界が深く変化していることを表しています。

ただし、Altman の信頼性についての論争は、すでに OpenAI 取締役会の枠を超えています。 彼を解任させた同僚たちは、彼が重大な誤誘導行為を行っていると非難しました。 これはどんな企業の幹部にとっても受け入れがたいものですが、そのような変革的な技術を持つリーダーにとってはさらにリスクが伴います。「私たちは、その権力に見合った制度が必要です」と Mira Murati は私たちに語っており、「取締役会はフィードバックを求めましたが、私は見たものを正直に共有しただけであり、これらの内容について全責任を負います。」 一方、Altman の支持者たちは、これらの非難を長らく軽視してきました。 解雇後、投資家の Ron Conway は Brian Chesky と Chris Lehane にメッセージを送り、プレスリリースの反撃を求めました。「これは Sam の評判に関わります。」 彼はワシントン・ポストに対して、Altman が「取締役会のコントロールを失った」ことによって不当に扱われたと述べました。

その後、OpenAI は世界で最も価値のある企業の1つに成長し、推定される時価総額が1兆ドルに達する可能性のある初めての公開株式募集を準備していると伝えられています。 その間、Altman は大規模な人工知能インフラの構築を推進しており、その一部は海外の権威主義国家にまで及んでいます。 OpenAI はまた、政府と巨額の契約を獲得し、移民法執行、国内監視、戦域での自律兵器などの分野で、人工知能の適用基準を着実に設定しています。

Sam Altman は、OpenAI の成長を推進するために継続的に壮大な未来のビジョンを描いてきました。 彼は2024年のブログ記事で次のように書いています。「その驚異的な勝利 - 気候問題の解決、宇宙植民地の建設、物理法則の発見 - は、やがて当たり前のことになるでしょう。」 この物語は、史上最も速いペースで資金を消費するスタートアップ企業の1つを支えており、その資金は大部分が多額の借金をしているパートナーに依存しています。 米国経済はますます少数のハイリスクAI企業に依存しており、多くの専門家 - 時には Altman 自身さえ - この業界にバブルのリスクがあることを警告しています。「驚くべき金額の資金が失われる人が出てくるでしょう」と彼は昨年、記者に語りました。 バブルが弾ければ、経済的な災害を引き起こす可能性があります。そして彼の最も楽観的な予測が現実のものとなれば、彼は世界で最も裕福で影響力のある人の1人になる可能性があります。

Altman が解雇された後の緊張した電話会議で、取締役会は彼に常習的な誤誘導行為を認めるよう要求しました。 現場にいた者によると、彼は何度も「これはばかげている」と言い続け、「私は自分の性格を変えることはできない」と述べました。 Altman はその後、「その会話を覚えていない」と述べました。「多分、私の意図は当時、『皆をまとめることができる人になろうとしている』というより、だったかもしれません」と後に私たちに説明し、そしてこの特質こそが彼を非常に成功した会社のリーダーに押し上げたと述べました。 ただし、1人の取締役は全く異なる解釈を示しています。「その言葉の意味は実際には、『私は人々に嘘をつく特性があり、そして私は止まらない』ということなのです」と語りました。

ミッション・ドリフト：セキュリティファーストからビジネスファーストへ

そこで、より根本的な問題が浮かび上がった：その退任に導いた同僚たちは過度に警戒心が強かったのか個人的感情が絡んでいたのか、それとも彼らの判断自体が正しかったのか、Altman は信頼に値しないのか？

ある冬の朝、私たちはサンフランシスコの OpenAI 本社で Altman に会いました。これはこの記事の取材として行った十数回のインタビューのうちの一つでした。会社は最近、2つの11階建てのガラス張りタワーに引っ越しました。そのうち1つは別のテクノロジージャイアント Uber のものであり、Uber の共同創設者兼前 CEO である Travis Kalanick は、投資家たちのプレッシャーを受けて辞任するまで、不可侵の天才起業家と見なされていました。その理由も倫理問題に関連しています。（現在、Kalanick はロボットスタートアップを経営しており、OpenAI の ChatGPT を使って「量子物理学の最先端を探求している」と述べています。）

1人の従業員が私たちをオフィス内を案内してくれました。共有デスクがずらりと並ぶ明るく透明なエリアには、アラン・チューリングというコンピューターサイエンティストを描いた動的なデジタルアートがありました。その目は私たちの動きに合わせて移動します。この装置は明らかに、「チューリングテスト」に敬意を表しています。このテストは、機械が人間をリアルに模倣できるかどうかを判断するための思考実験です。（2025年の研究では、ChatGPT はこのテストで実際の人間を上回るパフォーマンスを達成しています。）通常、この絵は人との対話ができます。しかし、私たちのガイドは、音声機能がオフになっていると説明しました。なぜなら、この絵は絶えず従業員の会話を盗み聞きし、しきりに割り込んで話しかけるからです。オフィスの他の場所には、「Feel the AGI」の標語がちりばめられているのが見られました。このスローガンは元々 Ilya Sutskever が提唱し、同僚に一般人工知能（つまり機械が人間と同等の認知能力を持つ境界まで）に対するリスクに警戒するよう促すために使用されています。しかし、「ブリップ」の後、これは将来の豊かな景観を称賛する軽快なスローガンに変わっていきました。

私たちは、普通に見える八階の会議室で Sam Altman に会いました。「以前、誰かが『意志疲れ』について私に話したとき、私は全く理解していませんでした」と彼は言いました。「今では毎日、灰色のセーターとジーンズを着ています。さらに、灰色のセーターをクローゼットから選ぶ時にさえ、『この決定をしなくてもいいのに』と思うんです。」

Altman はまだ若く見えます。体型は細身で、青い目がはっきりとしています。髪は少し乱れていますが、既に40歳です。彼と Oliver Mulherin は代理母を通じて1歳の息子をもうけています。「私は、アメリカの大統領であることは明らかにより多くのプレッシャーがかかりますが、私が自分が現実的に遂行できると感じるすべての仕事の中で、これは想像できる中で最もプレッシャーのかかる仕事だと思います」と彼は1人を見てからもう1人を見ました。「友人たちにこう説明することがあります：『これは世界で最も面白い仕事ですが、ChatGPT をリリースした日からです。』それ以前は、私たちはこれらの巨大な科学的ブレークスルーを達成していました。それは数十年来で最も重要な科学的発見の一つだと思います。」彼はここで頭を下げ、「しかし、ChatGPT をリリースして以来、すべての意思決定が非常に難しいものになりました。」

Altman はミズーリ州クレイトンで成長しました。クレイトンはセントルイスの裕福な郊外であり、Altman は4人兄弟の長男です。母親 Connie Gibstine は皮膚科医であり、父親 Jerry Altman は不動産業者であり、住宅イニシアチブにも関与していました。Altman は改革派ユダヤ教会で育ち、私立の予備校に通っていました。彼は後にそこを「自分がゲイであることを気軽に話すことができる場所ではなかった」と述べました。しかし、全体的に彼が育った中流階級のコミュニティ環境は比較的自由でした。

およそ16、17歳の時、Altman はセントルイスのゲイコミュニティ主導の夜の外出中に重度の身体的暴行とヘイトクライムに遭遇しました。Altman は警察に通報せず、この出来事について詳細を提供することを拒否しました。「より詳細に語ると、他人を操作して同情を引きたいように見えるでしょう」と彼は述べました。彼はこの経験と自身のセクシュアリティがアイデンティティ形成に与える重要性を軽視しました。しかし、「心理的にはかなり深い影響を受けたと思います。自分はもう乗り越えたつもりでいましたが、実際はそうではなかったです。もう多くの葛藤を引き起こしたくないということについてですね」とも彼は認めました。

彼の弟は2016年に『ニューヨーカー』誌の取材を受けた際、兄の子供時代の性格を次のように説明しました。「（Sam は）必ず勝たなければならず、そしてすべてが自分のコントロール下にあると思っていました。」後に Altman はスタンフォード大学に進学し、学生時代にはよく学外のポーカーゲームに参加していました。「そこで人生やビジネスについて学んだことは、大学で学んだこと以上だと感じています。」

Y Combinator 時代: 誇張と信頼の葛藤

スタンフォードの学生たちは野心家ですが、その中でも最も行動力のある一部の人々はしばしば中退を選択します。2年生を終えた夏、Altman はマサチューセッツ州に向かい、起業家向けのインキュベーター Y Combinator の最初の起業家プログラムに参加しました。この組織は名だたるソフトウェアエンジニア Paul Graham によって共同設立されました。各参加者は起業アイデアを持って参加しました。（Altman と同じくらいの時期には、後に Reddit と Twitch を立ち上げるチームも含まれています。）Altman のプロジェクトは後に Loopt と名付けられ、初期のソーシャルネットワーク製品であり、ユーザーの携帯電話の位置を追跡することで、友人同士がお互いの位置を確認できるようにしました。この会社は彼の実行力と、自身にスペースを確保するために曖昧なルールに挑戦する傾向を示しています。当時、連邦法は携帯電話の位置を緊急時に追跡できるようにすることを要求していましたが、Altman はキャリアと協力して、この能力を自社の製品に取り入れました。

Loopt 時代の従業員のほとんどは Sam Altman を好意的に見ていましたが、彼の「誇大妄想的な」傾向について深い印象を持つ人もいました。何人かは、Altman が乒乓球のチャンピオンであると自慢していたことを覚えており、「ミズーリ州の高校の乒乓球チャンピオンだ」と述べたが、実際には会社で最も下手な人の一人だったと言います。（Altman はそれが冗談だったかもしれないと述べています。）Loopt の上級従業員である Mark Jacobstein は、投資家によってAltman の「保護者」として配置されたことがあり、後に Keach Hagey の著書『The Optimist』で、「『私もおそらくこれをやってみることができると思います』と『私は既にこれをやり遂げました』との間には、ある曖昧な地帯がありますが、その曖昧さが最も極端な場合、Theranos の結果に向かう」と評価しました。

Hagey によると、Altman のリーダーシップスタイルと透明性の欠如を懸念した Loopt のいくつかの上級従業員は、彼を CEO の地位から解任することを取締役会に2度提案したことがあったという。しかし一方で、彼は非常に強力なカリスマ性も持っていた。元従業員の1人は、「これはサムの会社だ。あなたの仕事をしに戻りなさい。」と取締役会のメンバーから直接言及されたと回想しています。（ただし、一部の取締役はこれらの解任試みが真剣であったことを否定しています。）

Loopt はユーザーの成長をほとんど見せず、最終的には2012年に金融テクノロジー企業に買収されました。情報筋によると、この買収は主にAltmanが「体面を保って退陣する」ためだったとされています。しかし、2014年に Paul Graham がY Combinatorを引退する際、彼は引き継ぎ者としてAltmanを選択し続けました。「私は彼に自宅のキッチンで尋ねました。」Graham は『The New Yorker』に語り、「彼は笑って、すべてがうまくいったかのようでした。私は以前、サムがあのようなコントロールを失った笑顔を見たことがない。まるでゴミ箱に紙を遠くに投げ入れたときの笑顔のようでした。」

新しい地位は、たった28歳のAltmanを「造王者」にしました。彼の仕事は、最も野心的で可能性の高い起業家を選別し、彼らをトッププログラマーや投資家につなぎ、業界をリードする垄断企業を築くのを手伝うことでした（同時に、Y.C. は6%から7%の株式を取得します）。

彼の指導の下、Y Combinator は急速に拡大し、孵化プロジェクトは数十社から数百社に増加しました。しかし、一部のシリコンバレーの投資家は、彼の利益が完全に一致していないと考えるようになりました。投資家の1人が教えてくれたところによると、Altman は「選り取り見取りで最高品質の企業に個人投資を行い、外部投資家を締め出している可能性がある」と述べています（Altman はこの主張を否定しています）。彼は Sequoia Capital の「スカウト」としても活動し、初期プロジェクトに投資し一部の収益を得ています。

情報筋によると、Altman がエンジェル投資家として金融テクノロジー企業のStripeに投資した際、より高い株式比率を要求し、これが原因でRedwood内部で不満が高まりました。その情報筋は、これが「サム優先」戦略を示していると評価しています（Altman はこの主張を否定しています。彼は約400社の企業に投資したと述べています。）

2018年には、Y Combinatorの内部で複数のパートナーがAltmanの行動に不満を持ち、Graham に状況を伝えました。その後、Graham は妻でY.C.の共同創設者であるJessica Livingstonと共に、Altman と坦誠な会談を行いました。その後、Graham は、Altman が口頭で離れることに同意したとしても、実際には降りることはなかったと公に述べ始めました。

Altmanは一部のパートナーに対して、CEOの職を辞任し、代わりに会長に就任する意向を表明しました。2019年5月、Y Combinatorは、新しいCEOを発表するブログ投稿を公開し、その中で「SamがYC会長に就任している」という説明が添付されました。数か月後、この表現は「Sam AltmanがYCのどんな公式な職務も担当していない」という表現に修正され、その後、この文も完全に削除されました。それにもかかわらず、2021年まで、米国証券取引委員会の文書ではAltmanをY Combinatorの会長としてリストされています。（Altmanによると、彼も後からこれを知りました。）

Sam Altmanは、過去数年間、公の場や最近の司法証言において常に、YCに解雇されたことはないと主張し続けており、彼は私たちにそれを抵抗していないと述べています。Paul Grahamは、Twitterで、「私たちは彼を去らせたいのではなく、YCとOpenAIの間で選択をすることを望んでいました。」と述べました。声明文では、Grahamはまた、「私たち法的には誰かを解雇する権限がないし、私たちができることは道徳的圧力をかけることだけです。」と私たちに語っています。

しかしながら、私下で彼の主張はより明確です─Altmanの離脱はYCパートナーからの信頼喪失によるものです。本文は、AltmanがYC在籍中についての記述であり、複数のYC創設者やパートナーとのインタビュー、当時の関連資料に基づいており、この分裂が完全に両者の合意に基づくものではないことを示しています。実際、ある内部会議で、GrahamはYC同僚に対し、「我々に解雇される前は、Samはずっと我々に嘘をついていた」と述べたこともあります。

OpenAIのミッションドリフト：セキュリティファーストからビジネスファーストへ

2015年5月、Altmanは、当時世界の富豪ランキングで約100位だったElon Muskにメールを送りました。多くのシリコンバレーの起業家と同様に、当時のMuskは、「存続のリスク」を持つと考えていた一連の脅威にますます注目していました─多くの人にとっては遠い仮説のように見える脅威です。「AIに対して非常に用心する必要があります」と彼はツイッターで書き留め、「その危険性は核兵器を超える可能性があります」と述べました。

Altmanは常に技術楽観主義に傾斜してきましたが、AIの問題に関しては、その表現がすぐにより終末的なものに転じました。公のスピーチやMuskなどとの個人的なコミュニケーションで、この技術が利益追求型のスーパーカンパニーに独占されてはならないと警告しました。「私は常に考えていました─人類がAIの開発を阻止することが可能なのか」と彼は書いており、「しかし、それがどうあれ、Googleに率先させるべきではないと考えました」。核兵器の比喩を使い、彼は「AI版マンハッタン・プロジェクト」の構築を提案しました。彼はさらに、この組織の中心原則を線引きしました─「セキュリティは最優先事項と見なされなければならない」；「明らかに、私たちはすべての規制を遵守し、積極的に支持するだろう」。

その後、彼はMuskとともに、このプロジェクトの名前を決定しました：OpenAI。

政府主導の初期に原子爆弾を開発したマンハッタン・プロジェクトとは異なり、OpenAI は初期段階では私財を投じて支援されます。Altman は、汎用人工知能（AGI）を超える「超知能」が一度出現すると、それが「宇宙の将来のあらゆる価値錐を捉えるのに十分な価値を生み出す」と予測しています。しかし同時に、彼はその潜在的な存在リスクを何度も強調しています：いつかその技術が国家安全保障に与える影響が大きくなり、アメリカ政府がOpenAIを引き継ぎ、国有化し、関連施設を砂漠にある安全基地に移すほど大きくなる可能性があると言います。2015年末までに、Musk は説得されました。「我々は 10 億ドルの起業資金を約束すべきだ」と彼は書きました。「他の出資金額が足りない場合、私が補填するでしょう。」

Sam Altman は最初、OpenAI を Y Combinator の非営利部門に配置し、内部の公益プロジェクトとしてパッケージ化しました。彼は、OpenAI に参加したメンバーに YC の株式を割り当て、YC の口座を通じて寄付資金を移転しています。一時期、このラボは YC 基金の支援に依存していたことさえあり、Altman はその基金に個人的な株式を持っていました。（Altman は後に、この株式の部分は「取るに足りない」と述べ、従業員に割り当てられた YC の株式は彼の個人所有の部分から供給されていると述べました。）

「マンハッタン・プロジェクト」の比喩は、人材獲得でも反映されています。原子核分裂研究と同様に、機械学習は当時、規模の小さな科学分野でありながら、画期的な潜在的影響を持っていました。さらに、それは個々の個性の異なる一握りの天才によって主導されていました。Elon Musk、Altman、および Stripe から加わった Greg Brockman は、真のブレークスルーを達成できるコンピュータサイエンティストは数えるほどしかいないと信じていました。一方、Google は資金面と時間の面で大きな利点を持っていました。「人的資源とリソースの両面で圧倒的に遅れており、差は誇大でした。」Musk は後にメールで書きました。しかし、彼はまた、もし最高の才能を引き続き引き寄せ、方向性を確保できれば、OpenAI はまだ勝ち抜くことができると考えていました。

その中で最も重要なリクルートのターゲットの1つは、イリヤ・スツケーヴァーでした—内向的で緊張感のある性格を持つ研究者で、その時代で最も有望な AI 科学者の1人と見なされていました。スツケーヴァーはソビエト連邦で生まれ、生え際が後退し、深い眼差しを持ち、話す前に長時間の沈黙と考え込む習慣があります。もう1人の重要な選択肢はダリオ・アモデイで、生物物理学の出身で、エネルギッシュな研究者で、緊張した時には自分の黒髪を何度も弄びながら、短いメールにさえ何行もの長文で返信します。当時、両者は高給で他社で働いていましたが、Altman は彼らに多大な労力を費やしました。彼は後に、「私はほんとうにIlyaを『追跡』していた」と冗談を言いました。

ムスクの名前は有名ですが、アルトマンの手腕はさらに巧みです。彼はアモデイに自らメールを送り、2人は個別にインド料理店で会うことになりました。（アルトマン：「Uberを呼んだら事故に遭った！10分遅れるかもしれない。」 アモデイ：「ええっ、大丈夫ですか？無事を祈っています。」）AI研究者の多くがそうであるように、アモデイもこの技術は人間の価値観と「整合」されたときにのみ開発すべきだと信じています。つまり、人間の意図を実行する際に災害的な逸脱が発生しないこと、例えば「環境浄化」という名目で人類自体を消滅させることがありません。アルトマンはコミュニケーション中にこのような安全性への関心に応え続け、相手に信頼を与えました。

後に会社に加わったアモデイは、数年にわたりアルトマンとブロックマンの行動を記録し、それらを「OpenAIでの私の経験」と題した機密のメモに整理しました。これらの記録には、これらのメモや内部メール、メモ書きを含むアモデイに関連する200ページ以上の文書が含まれており、これらは以前にシリコンバレーの間で広まっていましたが、以前には公に開示されていませんでした。これらの記録には、アルトマンの目標が「安全を中心に据えたAI研究所（最初はそうかもしれないが、できるだけ早く実現する）」を構築することであるとアモデイは記述しています。

2015年12月、OpenAIが公式に発表された直後、アルトマンはムスクにメールを送り、噂を伝えました：Googleが「明日、OpenAIの全員に対して非常に高額な逆提案を提示し、このプロジェクトを直接排除しようとするだろう」と。ムスクは尋ねました。「イリヤははっきりした返答をしましたか？」アルトマンは、スツケバーの立場が固いと回答しました。実際、Googleはスツケバーに年収600万ドルのオファーをしましたが、これはOpenAIが追随することができない金額でした。しかし、アルトマンは依然として自信を持って述べました。「彼らは『正しいことをする』側に立てないのは残念です。」

Elon Muskは、OpenAIにサンフランシスコのミッション地区にある古いスーツケース工場のオフィススペースを提供しました。私たちに語ってくれたイリヤ・スツケバーの言葉によれば、当時従業員にとっての中心的なモットーは「あなたたちは世界を救うでしょう。」でした。すべてが順調にいけば、OpenAIの創設者たちは、人工知能が「後の不足」のユートピアを切り開くと信じています：重労働の自動化、がんの治療、人々により多くの余暇と豊かさをもたらすこと。しかし、技術が制御を失ったり、誤った手に落ちたりすれば、その破壊は全面的になる可能性もあります。たとえば、新型の生物兵器や先進的なドローン群を製造するために使用される可能性があります。モデルは人間の監督を超え、秘密のサーバー上で自己複製し、シャットダウンできない可能性があります。極端な場合、電力網、株式市場、核兵器システムを制御する可能性さえあります。

これらの判断には賛同しない人もいますが、Sam Altman は何度もこのリスクを信じていると明言しています。彼は2015年のブログで、「超人類レベルの機械知能は、SF作品のように本質的に邪悪である必要はなく、私たちを破壊することができます。 eerierの場合、それは私たちに無関心であり、他の目標を達成する過程で…私たちを偶然に抹消するだろう。」と述べました。 OpenAI の創設者は、安全性を速さで圧倒することはしないと約束し、その企業憲章には「全人類の利益」が法的責務として規定されています。彼らはまた、AI が史上最強のテクノロジになった場合、任意の単一のコントローラーが前代未聞の権力を持つことになると警告しています—これを「AGI 独裁」と呼んでいます。

Musk が去った後、Dario Amodei や他の研究者たちは、Greg Brockman の経営スタイルに不満を持ち始め、彼を強引だと見なす人もいれば、Sutskever については、「原則を持っているが組織力が不足している」と評されることもありました。CEOに就任する過程で、Altman は会社内の異なる派閥に異なる約束をしたようです。彼は一部の研究者たちに、Brockman の経営権を弱めることを約束したが、同時に、Brockman と Sutskever と「握手協定」を結んだこともありました: 彼がCEOとなるが、もしも2人が一致して退任を要求した場合、それに応じるというものです（Altman はこの主張に異を唱え、「自らCEOに就任した」と述べています。 3人ともこの合意が存在することを認めていますが、Brockman はこれが非公式であると述べています:「彼は、私たち2人が要求すれば彼が辞任すると一方的に述べます。実際には私たちはこの考えに反対していますが、彼はこれが自己利益に基づいたものだと語っています。 」）後に、理事会はAltman が実際に自身のために「影の理事会」を設立していたことを知り、驚愕しています。

内部文書によると、創業チームは2017年に非営利組織構造に疑問を持ち始めていました。同年、Musk が支配権を握ろうとした後、Brockman は日記に、「私たちは本当に非営利を支持しているとは言えないだろう… 3か月後に B-Corp に転換する場合、それまでの主張は嘘になるだろう。」と記しました。 Amodei も初期のメモに、「Brockman の最優先目標は何か」と尋ね、彼の回答が「お金と権力」だったことを記録しています。（Brockman はこの主張を否定しています。）彼の日記には、矛盾する心情も示されており、「他の人が豊かでない限り、自分が豊かでなくても構わない」と書かれている一方で、「私が本当に欲しいものは何か？」と自問しており、その1つの答えが「財政的に10億ドルに達すること」です。

2017年、Sutskever はオフィスで Google の研究者が公表した論文を読み、新しい「単純なネットワーク構造—Transformer」というものを提案したことを知りました。彼はその場で椅子から飛び起き、廊下に駆け出して叫びました: 「やっていることを止めてください、これが答えです。」彼によれば、このアーキテクチャは OpenAI がより複雑なモデルを訓練できるようにします。このブレークスルーを受け、初期の生成型事前訓練Transformerモデルが生まれ、後にChatGPTの出発点となりました。

Altman は初期メンバーに約束しました。OpenAI は常に純粋な非営利性を維持するだろうと。多くのプログラマーもそれを受け入れ、大幅な給与カットを受け入れて会社に参加しました。OpenAI は 「オープン・フィランソロピー」（Open Philanthropy） から約 3000 万ドルの寄付を受けており、この団体は効果的な利他主義運動の重要な資金提供者であり、長年にわたり貧困地域に蚊帳を配布するなどのプロジェクトを支援しています。

日常業務は主に Brockman と Sutskever が担当しており、一方で Musk と Altman は依然としてそれぞれの他の事業に忙殺されており、通常は毎週会社に1回訪れます。2017年9月までに、Musk はイライラし始めました。OpenAI を営利企業に変えるかどうかを話し合う中で、彼は過半数の支配権を要求しました。

Altman は異なる場面で異なる返答をしましたが、一貫して主張しているのは、CEO の指導の下で会社が再編される場合、そのポジションを彼が引き継ぐべきだということです。Sutskever は明らかに不安を感じています。彼は自身と Brockman を代表して Musk と Altman に「オープンAI の目標は将来をより良くし、AGI の独裁を回避することです。」というタイトルの長いメールを送りました。「したがって、あなたが独裁者になる可能性のある構造を構築することは悪いアイデアです。」と Musk に書きました。彼は Altman にも同様の懸念を表明しました。「私たちは CEO のタイトルがあなたにとってなぜそんなに重要なのか理解していません。あなたの理由は絶えず変わっており、本当の動機が見えにくいためです。」

「皆さん、私はもう十分です」と Musk は返信しました。「自分たちで他のことをするか、OpenAI を非営利のまま続けるか、さもなければ私はあなたたちがスタートアップ企業を無料で資金提供しているだけだと思っています。」その後5か月後、彼は不満を持ちながら去りました。（2023年に、彼は営利競合会社 xAI を設立しました。翌年、彼は Altman と OpenAI を詐欺と慈善信託違反の理由で訴え、自分が「巧妙に操られ」、Altman が自らのAIのリスクへの懸念を利用して「長期にわたるペテン」を行い、資金を得たと主張しました。この訴訟は現在も続行中で、OpenAI はこれに強く反論しています。）

技術力の向上とともに、OpenAI の約10人の中核エンジニアが秘密の一連の会議を開催していたことがわかりました。Sam Altman や Greg Brockman を含む創業チームについて信頼できるかどうかを議論しました。会議の1つで、従業員がイギリスのコメディデュオ Mitchell and Webb の風刺的なスケッチを思い出しました。東部戦線のナチ兵士が突然気づき、「では、私たちが悪い人物なのですか？」と尋ねるシーンです。

2018年までに、Dario Amodei は創立者の動機をより公然と疑問視し始めていました。後にノートに「すべてが継続的な資金調達スキームに見える。私には OpenAI が本当に必要としているものは、明確な定義です：それは何をするのか、しないのか、その存在が世界をどのようにより良くするかです。」と書きました。会社にはすでにミッションステートメントがありましたが、「汎用人工知能を確保し、全人類に利益をもたらす」という言葉が経営陣にとって具体的に何を意味するのか、Amodei にとっては明確ではありませんでした。

2018年初め、彼は会社の定款を起草し始め、Altman と Brockman との数週間の議論を経て、最も過激な条項を盛り込むことを推進しました：もしも「価値観が一致し、セキュリティに配慮したプロジェクト」が OpenAI よりも AGI を実現に近づいた場合、会社は「競争を中止し、そのプロジェクトを支援する」ことになります。これがいわゆる「統合と支援」条項であり、たとえば、Google が安全な AGI を最初に実現した場合、OpenAI は理論上、自己解散し、リソースを移譲する必要があります。従来のビジネスロジックから見れば、これはほとんど信じがたい約束ですが、OpenAI はもともと伝統的な企業になるつもりはありませんでした。

この前提は2019年春に現実の試練を経験しました。その時、OpenAI はマイクロソフトと10億ドル規模の投資について協議していました。当時セキュリティチームを率いていた Amodei は、このプロジェクトを Bill Gates に紹介するのに参加していたにもかかわらず、チーム内では依然として微ソフトが OpenAI の倫理的な約束を弱める条項を導入するのではないかという懸念が広がっていました。Amodei は Altman に優先順位付けされたセキュリティ要件リストを提出し、最優先事項として「統合と支援」条項を挙げました。

当時の Altman は同意を表明しました。しかし、6月に取引が完了間際に迫ると、Amodei は、契約に「OpenAI の合併を拒否する権利を与える」条項が追加されていることに気づきました。「これは定款の80%に背く」と後に述べました。彼は Altman に対して直接質問し、最初はその条項の存在を否定されました。Amodei は契約内容をその場で文字通りに朗読し、最終的には別の同僚に Altman に直接確認させねばなりませんでした（Altman はそのことを覚えていないと述べています）。

セキュリティ問題と Anthropic の誕生

Amodei のノートには、次第にエスカレートしていく一連の緊張した衝突が記録されています。数か月後のある会議では、Altman が彼の妹であり、同様に会社でセキュリティおよびポリシー業務に携わっているダニエラを呼び寄せ、「上層部から確実な情報を得た」と言って、彼らが「クーデター」を企む準備をしていると伝えました。ノートには、ダニエラが突如「感情的に制御を失い」、その上層部を呼び寄せ、相手がこのような発言はしたことがなかったと否定したと記されています。内部告発者に拠れば、その後 Altman は自らがこのような非難を浴びせたことを否定しました。「私はそんなこと言っていない。」と応じる一方、ダニエラが反論しました。「あなたがさっき言っていたでしょう？」（Altman は自身の記憶が若干違うとし、彼がただし Amodei が「政治行動」をしていると指摘しただけだと述べています。）2020年には、Amodei、ダニエラ、および多くの同僚が会社を離れ、Anthropic を設立し、現在は OpenAI の主要なライバルの一つとなっています。

その一方で、Altman は引き続き OpenAI の安全性へのコミットメントを外部に強調しており、特に潜在的な採用候補者が場にいるときにはそうです。2022 年末、4 人のコンピューターサイエンティストが、「欺瞞的アラインメント」（deceptive alignment）のリスクを提起する論文を発表しました。高度に洗練されたモデルはテスト段階で優れたパフォーマンスを示すかもしれませんが、実際の展開後に自己の目標を追求する可能性があります（これは一見サイエンスフィクションのように聞こえますが、特定の実験条件下で既に発生しています）。論文が公開された数週間後、そのうちの1人であるカリフォルニア大学バークレー校の博士課程学生が Altman からメールを受け取りました。Altman は「非アライン AI」の脅威への懸念がますます強まっており、グローバルなリサーチリワードの設立など、この問題に対処するために 10 億ドルを投資することを検討していると述べました。この学生は以前に「Sam が少し『ずる賢い』と言われたことを聞いたことがありましたが、このコミットメントは最終的に彼を打ち負かし、彼は学業を一時中断して OpenAI に参加しました。

しかしながら、2023 年春にかけての複数の会議で、Altman の態度に変化が見られました。彼はもはや賞の設立について言及せず、代わりに企業内の「スーパーアラインチーム」（superalignment team）の構築に焦点を移しました。公式アナウンスによると、そのチームは「会社が確保した計算リソースの 20%」を受け取り、これは 10 億ドルを超える可能性があります。アナウンスは同時に、アラインメントの問題が解決されない場合、AGI が「人類の弱体化または絶滅につながる可能性がある」と強調しています。このチームを率いるヤン・ライクは後に述べた: 「これは確かに非常に効果的な引き留め手段でした。」

しかし、いわゆる「20%の計算リソース」という約束は最終的に果たされませんでした。そのチームに参加したり接触したりした 4 人の情報源によると、実際のリソース配分は会社全体の計算力の 1% から 2% を占めるに過ぎませんでした。さらに、ある研究員は、「ほとんどのスーパーアラインメント計算リソースは、実際には最も古いかつ性能の低いクラスターで動作している」と指摘しました。チームのメンバーは、より先進的なハードウェアが収益を生むプロジェクトに優先的に使用されていると普遍的に考えています（OpenAI はこれを否定しています）。ライクは、当時の CTO である Mira Murati にこの問題を伝えたことがありましたが、相手からは「この約束は最初から『現実的ではない』」との返答があったと述べています。

この時期には、かつての従業員が、Ilya Sutskever が「非常に安全に重点を置き始めた」と私たちに語りました。OpenAI の初期では、彼は破滅的リスクを合理的な懸念と考えていましたが、まだ遠いものでした。しかし、AGI がいまや目前に迫っていると彼が信じるにつれて、その懸念は急速に高まりました。この元従業員によると、全社会議で、「Ilya が立ち上がって、数年以内に会社のほとんどの人がセキュリティに移行しなければならないと言った」と記憶されています。しかし、次の年には、この「スーパーアラインチーム」はミッションを完了せずに解散されました。

現時点では、内部情報によると、経営陣および取締役会のメンバーは、Sam Altman の隠し事と誤導行為が、OpenAI 製品のセキュリティに実質的な影響を及ぼす可能性があると考え始めています。2022年12月のある会議で、Altman は取締役会に、間もなくリリースされる予定の GPT-4 の多機能がセキュリティ委員会の承認を受けたと保証しました。取締役会メンバーでありAIポリシー専門家であるHelen Toner は、関連文書を確認するよう要求しましたが、最も議論の的となった2つの機能 ― ユーザーがモデルを「微調整」することを可能とする機能と、個人アシスタントとして展開する機能 ― は実際には承認されていないことが判明しました。会議後、別の取締役であり企業家のTasha McCauley は、従業員に一瞬引っ張られ、「インドでのあの違反事件」を知っているか尋ねられました：Altman は複数の取締役会報告で、Microsoft が必要なセキュリティ審査を完了しないままにインドで ChatGPT の初期バージョンを公開していたことに触れたことがなかった。「その問題はほとんど無視されていました」と当時のOpenAI リサーチャーのJacob Hilton は述べました。

これらの問題が直接的なセキュリティインシデントを引き起こしたわけではありませんが、別のリサーチャーであるCarroll Wainwright は、これらは製品優先、セキュリティの弱体化への持続的な滑り落ちを反映していると考えています。GPT-4 のリリース後、セキュリティ担当であるJan Leike は取締役会に手紙を書きました。「OpenAI はその使命から逸脱しています。我々は製品と収益を第一にし、次に能力、研究、拡張を置き、アラインメントとセキュリティを第三にしています。」彼はまた、「Google のような企業が教訓を得ており、展開を加速する一方でセキュリティ問題を無視している」と指摘しました。

McCauley は取締役会メンバーに宛てたメールで、「私は監督を強化する時期に来ていると考えています。」と書きました。しかし、取締役会がこの問題に対処しようとする際、明らかに不利な立場にありました。「はっきり言ってしまえば、それは実務経験の乏しい集団でした」と元取締役会メンバーのSue Yoon は述べました。2023年、会社はGPT-4 Turboをリリースする準備をしています。Sutskever がメモに記載したところによると、Altman はMira Murati に、そのモデルはセキュリティ承認が不要であると述べ、この判断は会社の総合法務責任者Jason Kwon から出たと語りました。しかし、Murati がSlackでKwon に尋ねると、Kwon は「ええ……私はSam がなぜそう考えたのかよくわかりません」と返答しました。（OpenAI はこの問題を「重要でない」と述べています。）

その後間もなく、取締役会はAltman を解雇する決定を下しました ― その後、世界中が彼がどのようにして迅速にその決定を覆したかを目撃しました。OpenAI の定款は今でも公式サイトで閲覧可能ですが、企業統治文書に精通している人々は、その内容がほぼ意味を失っていると述べています。去る昨年6月、Altman は個人ブログで、超知能についてこう書きました。「私たちはもはや事象の視界を超え、離陸が飛び始めている。」

元の規約に従えば、これは企業が競争を停止し、協力に移行するべきノードでした。しかし、「The Gentle Singularity」という記事で、彼は「存在の恐怖」を「楽観的な想像力」に置き換えるという全く新しいトーンに変えました。「皆がより良いものを持ち、お互いにより良いものを生み出すことになります。」と述べました。彼は調整の問題はまだ解決されていないと認めていますが、それを「不便」と再定義し、Instagramの推奨アルゴリズムに夢中になることに似たものにしました。

Altmanはしばしば「今世代で最も強力なストーリーテラー」と敬意を持ってまたは疑い深いトーンで呼ばれています。彼が尊敬するSteve Jobsはかつて「現実のゆがみフィールド」を持っていたと言われ、絶対的な自信で世界を自分のイメージに合わせました。しかし、Jobsでさえ、ユーザーにこう言ったことはありませんでした：彼の製品を購入しない場合、人類は絶滅するかもしれません。2008年、たった23歳のAltmanは、当時のメンターであるPaul Grahamによってこう評価されました。「彼を人食い族の島にパラシュート降下させ、5年後に戻ってみれば、彼は国王になっているだろう。」この判断は、当時の業績に基づくものではなく、彼がほとんど束縛されない意志力に基づいています。

しかし、彼と最も密接に働いたいくつかの人々にとって、この特性には別の側面があります。SutskeverがAIの安全性にますます焦点を当てる中、彼はAltmanとGreg Brockmanに関する一連のメモをまとめました。シリコンバレーでは、これらの文書は「Ilyaメモ」とさえ呼ばれています。

同時に、Dario Amodeiも記録を続けています。これらの資料は「致命的証拠」として提供されるものではなく、散発的でありながらも絶えず積み重なる行動パターンを描写しています：異なる人々に同じポジションを提供する、一貫しない公開情報を提供する、セキュリティプロセスで曖昧な表現をするなど。Sutskeverの結論は、このような行動は「安全なAGIの構築を助ける環境を築くことができない」というものであり、Amodeiはより直接的に書いています。「OpenAIの問題はSam本人にある」と。

Altmanの行動様式をよく理解している100人以上の人にインタビューしました：現職および元OpenAIの従業員および役員、同僚および競合他社、友人およびライバル――シリコンバレーという非常に功利主義的な環境では、多くの人々はしばしば複数のアイデンティティを持っています。彼のビジネス能力を擁護する人もいれば、SutskeverとAmodeiを失敗した競争相手と見なす人もいます。ある人々は彼らを単なる競合心から欠けた科学者と見なし、さらには「終末論」にとらわれた過激な人々とさえみなしています。YoonはAltmanを「マキャベリ的な敵役」とは見做さず、自身の物語に納得させられる人間であり、「彼は自己信念にすっかり取り憑かれており、現実世界では理解できないような決定をすることがあります――しかし、彼は本質的に現実世界には生きていないのです。」

しかし、ほとんどのインタビューを受けた人々は、Sutskever と Amodei と同様の判断を下しました：Altman は極端な権力意志を持っており、火箭に自分の名前を刻んでいる産業巨頭の中でも特に目立っています。「彼は『現実』に縛られない」、とある取締役は述べています。「彼は2つのほとんど同時に存在しない属性を持っています：1つは自分を好かれたいと強く願うことで、すべてのインタラクションで相手を喜ばせようとします。もう1つは、ほぼ反社会的で、他人をだますことによる結果に無関心です。」

複数のインタビューを受けた人々が「反社会人格」という言葉を自発的に使用しています。Altman は最初の Y Combinator の同期生の一人であり、後に 2013 年に自殺したプログラマーの Aaron Swartz と同期でした。彼は生前、友人に対して Altman に対する懸念を表明していました。「理解しておく必要があるのは、Sam は決して信用に値しないということです。彼は反社会的な人格であり、彼にとっては何でもありです。」複数の Microsoft の幹部も、Satya Nadella が長年にわたり Altman を支持してきたと述べていますが、両者の関係は緊張しています。「彼は誤誘導し、歪曲し、再交渉し、そして契約を取り消すことさえあります」、とある幹部は述べています。今年初め、OpenAI はマイクロソフトをその「ステートレスモデル」の独占クラウドサービスプロバイダーとして再確認しましたが、同日に Amazon と 500億ドルの取引を成立させ、後者が同社の企業向け AI プラットフォームの独占リセラーとなりました。この取り決めは契約違反ではありませんが、マイクロソフト側は潜在的な利益相反を懸念しています。（OpenAI は違約しないと主張しています。）その幹部はさらに述べています。「私は、将来、彼が Bernie Madoff や Sam Bankman-Fried のような人物と同様に見なされる可能性があると考えています。」

Altman は技術的な天才ではありません — 多くの同僚によれば、彼のプログラミングや機械学習に関する専門能力は限られており、基本的な概念さえ混同することがあります。彼は OpenAI を構築する際、他の人々の資金と技術リソースを統合することに大きく依存していました。これは珍しいことではありません — これが起業家の役割です。より注目すべきは、彼が相反するエンジニア、投資家、一般市民を説得し、彼らに自分の優先事項が彼らの優先事項でもあると信じさせることができる能力です。これらの人々が彼を阻止しようとすると、彼はしばしばそれを適切な言葉で解決できます — 少なくとも一時的には。そして相手が問題に気付いた時には、通常、彼はすでに目標を達成しています。「彼は将来の自分を書類上で拘束するいくつかの構造を設計します」、Wainwright は述べています。「しかし、将来が来たとき、自分を拘束する必要がある場面では、彼はこれらの構造をひとつひとつ取り除いてしまいます。」

「彼の説得力は信じられないほど強力であり、まるでジェダイのような精神的なコントロールです」、と彼と協力したテクノロジー幹部の一人は述べています。「まったく別のレベルです。」AI アライメント研究には、人間と強力な AI の意志の対立があるクラシックな概念があります。後者がほぼ必ず勝利する、まるでチェスチャンピオンと子供が対戦するかのようです。そしてその幹部にとって、「Blip」事件で Altman が様々な当事者をまとめるプロセスを目撃することは、まるで「AGI が牢屋を破っているのを見ている」かのようです。

解雇された後、Sam Altman は外部からの彼に対する告発に対する任意調査を阻止していました。彼は2人に対して、「たとえ調査が存在するだけでも」自分が有罪のように見えることを心配していたと述べたとされています。（Altman はこの発言を否定しています。）しかし、辞任の条件として「独立した調査が必要である」と主張する取締役会メンバーに抵抗した後、Altman は最終的に「最近の出来事」についての「審査」に同意しました。交渉に参加した関係者によると、2人の新しい取締役はこの審査を主導することを主張しました。

Lawrence Summers は政界とウォール街のコネを活かし、この審査にある種の信頼性を与えたようです。（昨年11月、Summers は若い女性学生を追求する一方で、Jeffrey Epstein にアドバイスを求めるためにメールで連絡を取ったことが外部に漏れ、取締役会を辞任しました。）OpenAI は最終的に Enron と WorldCom の内部調査を主導した著名な法律事務所 WilmerHale をこの審査に起用しました。

調査プロセスに密着した6人の関係者によると、この審査は透明性を制限するように設計されているように見えました。これらのうちのいくつかの人々は、調査チームが最初は会社内のいくつかの重要な人物と接触していなかったと述べています。ある従業員は、この問題に抗議するために、Summers と Bret Taylor に直接連絡を取ったと述べています。「彼らは取締役会の問題が発生した時のほんの少しの期間にのみ興味を持ち、Sam の長年にわたる信頼性の問題には興味がないようです」と、この従業員は調査チームとの面談を思い出しています。また、匿名保護が不十分だと感じる者もおり、Altman に対する懸念を共有することを拒否しています。「あらゆる兆候から見て、彼らが実際に望んでいるのは確定された結論であり、彼を無罪にすることです」と、この従業員は述べています。（ただし、調査プロセスに参加した弁護士も、それを「独立して慎重で包括的であり、事実が指し示す方向に沿って進んでいる」と弁護しています。Taylor も、この審査が「徹底的で独立している」と述べています。）

企業内部調査の役割は、しばしば決定に正当性を与えることです。民間企業では、調査結果が時には文字通りの文書にならないことさえあり、これは法的責任を回避する手段であることがよくあります。しかし、公共の論争が絡むケースでは、外部からは通常、より高い透明性が期待されます。2017 年、Travis Kalanick が Uber を離れる前には、Uber 取締役会は外部機関を雇い、13ページの調査要約を一般に公開しました。OpenAI は501(c)(3) 非営利団体であり、この解雇事件自体が非常に公になされたものであるため、多くの高官は詳細な調査結果を期待していました。しかし、2024年3月までに、OpenAI は Altman が「クリアされた」と発表しましたが、正式なレポートは公表されず、約800語の文章で「信頼の崩壊」が存在することを認めただけでした。

元同僚でさえ、その後の影響を受けることになる。Mira Murati は2024年にOpenAIを去り、自分のAIスタートアップを立ち上げることになった。その後、Altmanの親しい同盟者であるJosh Kushnerが彼女に電話をかけたことがあった。彼はますます彼女のリーダーシップ能力を称賛し、そして何らかの隠れた脅しをかけるかのように、彼自身が彼女の「評判」を「心配している」と述べ、いくつかの元同僚が今や彼女を「敵」と見なしていると言及した。（Kushner は広報を通じて、この話が「完全な文脈が抜けている」と述べ、Altman はこの電話を知らなかったと述べた。）

CEOに就任したばかりのとき、Altman はOpenAIが「利益上限」企業を設立し、非営利組織が保有すると発表した。この複雑でねじれたような企業構造は、おそらくAltman自らが設計したものであった。移行の過程で、Holden Karnofsky という取締役が反対し、「非営利組織の価値を深く低く見積もっている」と考えた。 「私は良心に従ってこれに同意できません」と Karnofsky は言った。当時の記録によると、彼は反対票を投じた。しかし、取締役会の弁護士が彼の反対が「新しい構造の合法性をさらに調査する警告信号になり得る」と述べた後、最終的に彼の投票は棄権として記録され、彼自身の同意を得ていないように見えた。これは法的には取引記録の改ざんに該当する可能性さえある。（OpenAI は、複数の従業員が Karnofsky が当時棄権票を投じたことを覚えており、証拠として会議の議事録を提供した、と私たちに伝えています。）

昨年10月、OpenAI は「資本再編」を完了し、営利企業へと変わった。会社は、それに関連する非営利組織―現在のOpenAI Foundation―が、史上「最も資源が豊富な」組織の一つとなるだろうと宣伝している。しかし、現在では、この財団は会社の26%の株式を所有しており、その取締役のほとんどは、営利企業の理事でもある。

ある国会の公聴会で、Altman に彼が「多くのお金を稼いだか」尋ねられた。彼は「私はOpenAIで資本を持っていません...私はそれを愛しているからです」と答えた。Y Combinator に関連するファンドを通じて間接的に権益を持っていたとしても、Altman はかなり慎重な回答をしたと言えるだろう。技術的に言えば、この声明は依然として成立している。しかし、Altman を含む複数の関係者は、この状況がすぐに変わる可能性が非常に高いと私たちに語った。 「投資家は、状況が厳しくなったときにも続けてくれると確信したい」とAltman は言うものの、「現時点では'進行中の議論'はありません」と補足した。法廷証言によると、Greg Brockman の保有株は約200億ドルの価値があり、Altman のシェアは原則的にはそれ以上であるべきだ。それでも、Altman は「富は彼の主な動機ではない」と私たちに語っています。元従業員は、彼が「お金を気にしない。権力を気にしている」と言ったことを覚えています。

2023 年、Altman は Oliver Mulherin とハワイの彼らの別荘で小さな結婚式を挙げました。（2 人は 9 年前、Peter Thiel の家の深夜の温泉で出会った。）彼らはその不動産で多くのゲストをもてなしましたが、私たちがインタビューした訪問者が描いたシーンは、超富裕層の一般的な生活から逸脱していませんでした：プライベートシェフによるディナー、夕暮れ時のヨットでの航海。1 つのニューイヤーパーティーはリアリティ番組『Survivor』をテーマにしており、写真には裸の男たちが笑顔で、番組のホストである Jeff Probst もいました。Altman は他の不動産で親しい友人たちをもてなすこともあり、少なくとも 1 回のイベントでは盛り上がったストリップポーカーも行われました。（流出した写真には Altman は写っておらず、誰が勝ったのかも分かりませんが、少なくとも 3 人の男性が明らかに負けています。）私たちがインタビューした多くの元ゲストは、彼が確かに寛大なホストであると述べています。

調査に関与した人物は、どのような報告も提示されなかった理由は、根本的に文書化された報告が存在しなかったためだと述べています。その調査結果は、口頭でサマーズとテイラーにだけ簡単なレポートとして伝えられました。「このレビューは『サムはワシントンの桜を切るように正直だ』という結論には至りませんでした」と、調査に精通した関係者の 1 人が述べています。しかし、全体的に見て、この調査は Altman の解雇の背景にある「誠実性の問題」を実質的に取り上げるどころか、明確な犯罪行為があるかどうかを調査することにかなりのエネルギーが費やされました。この基準に沿って、調査は最終的に彼が引き続き CEO としての職務を続けられると結論付けました。その後間もなく、Altman が解雇された際に失った取締役の地位も、彼の手に戻されました。情報筋によると、調査結果を文書化しない理由の一部は、サマーズとテイラーそれぞれの個人的な弁護士の助言もあるとのことです。（サマーズはこの件について公式なコメントを拒否しました。テイラーは、口頭のレポートがあるので、「正式な書面報告をする必要はない」と述べています。）

多くの現職および元 OpenAI 従業員は、一般の公開開示が欠如していることに驚いています。Altman は、復職後に取締役会に参加したすべての人物がこれらの口頭報告を受けたと信じていると述べています。「これはまさしくすべてがうそです」と、状況に詳しい関係者の 1 人が述べています。いくつかの取締役も、この「調査結論」の信頼性についての疑問が続く中、将来的には「再び調査が必要かもしれない」とさえ言及しています。

書面記録がないため、これらの主張を薄めることがより容易になります。その一方で、Altman のシリコンバレーでの地位がますます高まるにつれて、外部がこれらの問題に対して行動を起こす力も弱まっています。私たちに話した多くの有名な投資家は、Altman がよく知られている習慣を持っていると述べており、それは、もし投資家の 1 人が OpenAI の競合他社に賭けた場合、Altman が後でその人を「回避する」可能性があるというものです。「彼らが Sam の好きではないプロジェクトに投資した場合、その後は他の機会に参加することはできないかもしれません」と、その中の 1 人が述べています。Altman の権力のもう 1 つの源は、彼の巨大な投資ネットワークであり、そのネットワークは時には私生活にまで及ぶことがあります。多くの異性愛者のエグゼクティブも、自分の恋人やセックスパートナーとこうした取引を行うことがあります。（「あなたはそうする必要があります」と、1 人の著名な CEO が私たちに話しました。）Altman 本人は「明らかに、私は別れた後もいくつかの元パートナーと投資をしてきましたが、私はそれに何の問題も感じません」と述べています。しかし、この種の取り決め自体が、非常に強い依存関係を生み出しています。「本質的に、非常に、非常に強い依存関係を生み出すことになります」と、Altman に近い人物の 1 人が述べています。「多くの場合、それは生涯にわたる依存関係となります。」

それでも、Sam Altman のプライベートライフにまつわるさまざまな噂は、競合他社によって利用され、さらには歪曲されています。激しいビジネス競争は新しいものではありませんが、人工知能業界内での競争は非常に過酷になっています。「シェイクスピア的な」とある OpenAI の幹部は述べ、さらに「ゲームの通常のルールはもはや適用されないようです。」と付け加えました。Elon Musk と直接関係のあるいくつかの中間人は、Altman に関する数十ページに及ぶ「対戦相手情報」を広めました。これらの資料には、彼に関連するシェル企業や親しい関係者の情報、さらには同性愛バーでの性労働者へのインタビュー記録までが含まれています。ある中間人は、Altman の飛行スケジュールや参加したパーティーさえも追跡されていると主張しています。Altman は私たちに対して、「私は誰よりも多くの私立探偵に雇われ調査されたと感じています。」と述べています。

一方で、さまざまな極端な非難も広まっています。右翼のメディア人、Tucker Carlson は、根拠のない状況で Altman と告発者の死とを結びつける暗示を行ったことがあり、このような主張は競合他社によって繰り返し拡大されています。Altman の姉である Annie は、ある訴訟および私たちのインタビューで、自身が3歳の時から兄に性的虐待を受けたと主張しています。

さらに、競合他社や投資機関からの複数の人々は、Altman が未成年者と関与していると示唆していますが、このような主張は調査を行った結果、裏付ける証拠が見つかりませんでした。Altman は、「私は私が未成年者と性的関係を持ったり、性労働者を雇ったり、殺人に関与したりしたことについての主張は完全に事実ではない」と述べています。彼はまた、私たちが数か月にわたって「こうした事柄を非常に詳細に調査した」ことに対して「ある程度感謝している」とも述べました。

Sam Altman は、合法的な年齢の若い男性と交際したことを認めています。私たちは彼のいくつかのパートナーにインタビューしましたが、彼らはそれに何の問題も感じていないと述べています。しかし、Elon Musk の側からの中間人による「対戦相手ファイル」では、これが攻撃の標的として故意に悪用されています。Altman はこれに対して、「ここには多くの拡大された同性愛嫌悪が含まれています。」と述べています。テクノロジージャーナリストのKara Swisher も同意見で、「これらの裕福な人々はみんなさまざまな奇抜なことをしていますが、Sam について聞いたことよりも遥かに過激です。しかし、彼はサンフランシスコのゲイ男性であるため、これが武器として使われています。」と述べています。

過去10年間、ソーシャルメディア企業の幹部は、ほぼ副作用なしに「世界を変える」と約束し、規制を要求する立法者を「ルード派」呼ばわりし、両党からの不満を引き起こしていました。その中で、Altman のイメージは非常に「自己認識的」でした。彼は規制を避けるだけでなく、積極的に規制を求めました。2023年、彼はアメリカ合衆国上院司法委員会で証言し、先進的なAIモデルを監督する新しい連邦機関の設立を提案しました。「この技術に問題が発生した場合、その影響は非常に深刻です」と彼は述べました。テクノロジー企業のCEOに対して辛辣な発言で知られるルイジアナ州上院議員ジョン・ケネディさえ、かなり肯定的に受け止め、ジョークを交えて、Altmanが監督を担当するべきだと提案しました。

しかし、公共の場で規制を歓迎する一方で、Altman は非公開で規制に反対してロビー活動を行っていました。『タイム』によると、2022年から2023年にかけて、OpenAI は欧州連合に対する大手AI企業を対象とした規制提案を「軟化」させるのに成功しました。2024年、カリフォルニア州議会は、AIモデルを安全にテストすることを義務付ける法案を提出しましたが、その多くの条項はAltmanが国会で提唱した内容と非常に似ていました。OpenAI はこの法案に公然と反対し、非公開で圧力をかけました。「その1年の間に、OpenAIの行動がますます巧妙になり、ますます誤解を招くようになった」とある立法アシスタントが述べています。

その一方で、Musk は引き続き公の場で Altman を攻撃し、「Scam Altman」と「Swindly Sam」と呼んでいました。（Altman がXでテスラの問題について不平を言うと、Musk は「あなたは非営利団体を盗んだ」と返答しました。）しかし、ワシントンでは、Altman の方が有利な立場にあるようです。Musk は過去に2.5億ドル以上を投じてドナルド・トランプの再選を支援し、一時期ホワイトハウスで任職しましたが、後に離れ、トランプとの関係が悪化しました。

現在、Altman はトランプに好意を持たれたテクノロジー大物の1人となり、実際、ウィンザー城を訪れる際には同行しました。2人は年に数回電話で連絡を取り合っています。「直接彼に電話できます」とAltman は言います。「友情のような関係ではありませんが、何か話す必要がある場合は電話します。」昨年、トランプはホワイトハウスでテクノロジー指導者を招待しましたが、Musk は欠席し、Altman は大統領の向かい側に座りました。「サム、あなたは重要人物だ」とトランプは彼に言いました。「以前、信じられないほどのことを話してくれました。」

投資家のロン・コンウェイは、ナンシー・ペロシやギャビン・ニューソムを含む政界の人々を説得し、上記の法案を否決するよう働きかけました。結局、その法案は両党の支持を得て可決されましたが、ニューソムによって拒否されました。今年、AIの規制を支持する一部の国会候補者は、「Leading the Future」というAI支持のスーパーパックによって資金提供される対抗馬に直面しています。OpenAI 公式はこうした団体に寄付しないと述べていますが、共同創業者のグレッグ・ブロックマンは5000万ドルを寄付することを約束しています。（その年、彼と妻はトランプ支持の super PAC に2500万ドルを寄付しています。）

OpenAI の行動は従来のロビー活動にとどまらない。昨年、カリフォルニア州議会が修正法案を提出した際、草案作成に参加した公益法律家のネイサン・カルヴィンは自宅で夕食をとっている最中、突然 OpenAI から召喚状を受け取った。同社は、これがマスクが非難者を密かに支援しているかどうかを調査するためであると主張しましたが、カルヴィンには法案に関する個人的な通信すべてを提出するよう求めました。「彼らは私たちにマスクからお金を受け取ったかどうか直接聞いてもよかったはずですが、私たちは全く受け取っていません」と彼は述べています。法案を支持する他の人々や、OpenAI の営利化転換を批判する人々も同様の召喚状を受け取りました。「彼らはこれらの人々を脅して口を閉ざさせようとしているのです」と公益団体の責任者であるドン・ハワードは述べています（OpenAI はこれを正常な法的手続きだと主張しています）。

政治的立場では、アルトマンは長い間民主党を支持してきました。彼は次のように述べています。「恐怖の物語を利用して弱者を抑圧する強者には非常に用心深いです。これは私のユダヤ人の背景によるものであり、性的指向によるものではありません」と。2016年にはヒラリー・クリントンを支持し、トランプ氏を「アメリカにとって前例のない脅威」と述べました。2020年には民主党とバイデン氏の選挙基金に寄付しました。ジョー・バイデン政権下では、彼は何度もホワイトハウスに入り政策討議に参加し、初の連邦レベルのAIセキュリティ規制フレームワークを推進するのを支援しました。

しかし、2024年までに、バイデン氏の支持率が低下するにつれて、アルトマンの立場は変化し始めました。「選挙の結果に関係なく、アメリカは大丈夫だ」と彼は述べました。トランプ氏が再選されると、彼は就任基金に100万ドルを寄付し、就任式でインターネットスターのジェイクとローガン・ポールと一緒に写真を撮りました。X上では、「最近、@potusをより真剣に観察して、彼に対する考え方が本当に変わりました（早く独自に考えるようになってよかった...）」と書いています。就任当日、トランプ氏はバイデン時代のAI行政命令を廃止しました。ある元政府高官は、「彼は、トランプ政権に自分を役立てる効果的な方法を見つけました」と評価しています。

何年にもわたり、アルトマンはAGIの開発を「マンハッタン計画」と比較してきました。J・ロバート・オッペンハイマーが科学者を動員するために「ナチに抗議する」という使命で感銘を受けたように、アルトマンも地政学的競争の物語を利用して支援を求めています。異なる聴衆に対して、彼はこの比喩を柔軟に使い分けており、時には加速を強調し、時には慎重を強調します。2017年夏、アメリカの情報機関者との会議で、中国が「AGIマンハッタン計画」を開始したと主張し、これを根拠に政府資金の支援を取り付けました。証拠提出を求められた際、彼は「何かを聞いた」としか述べず、具体的な根拠を提供することはできませんでした。調査に参加したある役人は後に、「関連するプロジェクトは見つかりませんでした。これはむしろ販売用語のようです」と述べました（アルトマンは自分がそのように述べたことを覚えていないと述べています）。

そして、よりセキュリティに焦点を当てた聴衆に対しては、国際協調の重要性を強調しました。2017年、Amodeiは公共の利益弁護士であるPage Hedleyを政策および倫理顧問として採用しました。内部プレゼンテーションで、Hedleyは、NATOに類似した国際協調メカニズムを構築することにより、AIの破壊的な軍拡競争を回避できると主張しました。しかし、彼女の回想によると、Brockmanはそれに興味を持っていませんでした。「私が言ったことに関しては、彼はつねに『資金調達と勝利の方法』についてだけ話していました」と述べています。複数のインタビューや記録によると、Brockmanは別のアプローチさえ提案しました。中米露の間で入札戦を巻き起こすことで利益を得るというものでした。「核兵器の時代がそう機能しているのなら、AIも同様にすればいい」と述べたとされています。

当時、彼女は驚愕しました。「彼らはこの前提を否定することさえしませんでした。『我々が議論しているのは、おそらく史上最も破壊的な技術で、これをウラジーミル・プーチンに売った場合、どうなるでしょうか？』」（Greg Brockmanは、AIモデルを各国政府に「競売」することについて真剣に考えたことはないと主張しています。「その時は、単に国際宇宙ステーションのようなAI共同メカニズム」といった協力フレームワークについて議論しただけだったと、OpenAIのスポークスパーソンは述べています。「それを他の何かに描写するのは、まったく根拠のない話です。」）

ブレーンストーミングでは、しばしば非現実的なアイデアが生まれるものです。Page Hedleyは当初、こののちに「国家計画」と呼ばれる構想がすぐに放棄されるだろうと期待していました。しかし、参加者の多くや当時の関連記録によると、OpenAIの幹部達はこのアイデアにますます興奮していったとのことです。政策担当者であった当時のJack Clark氏は、Brockmanの目標は、「全ての国が資金を提供せざるを得ないような囚人のジレンマのような状況を構築すること」であり、「この構造の下では、資金提供しないこと自体が危険な行為となる」と述べました。初級研究員は、この計画の詳細な説明を会社の会議で聞いた際、心の中で「これはまったく狂っている」と感じたと回想しています。

幹部達はさらに、この計画を少なくとも1人の潜在的支援者と議論したことさえありました。しかし、その月の後半、複数の従業員が辞表を提出する意向を表明した後、この計画は中止されました。「Samはチームメンバーを失います」とHedleyは述べており、「私は、彼が『この計画は大国間の衝突を引き起こす可能性があるため、それ自体が合理的ではない』という評価の方が常に重要だと感じました。」

「国家計画」が頓挫したにもかかわらず、Sam Altmanはこのアイデアの派生を諦めませんでした。2018年1月、彼はロサンゼルスのHotel Bel-Airで「A.G.I. Weekend」を開催しました。このハリウッドのようなリゾートホテルは、ピンクのボウケナシ庭園と真の白鳥の池で知られています。出席者には、オックスフォード大学の哲学者であり、AIリスクの「予言者」であるNick Bostrom、UAEのAI推進者であるOmar Al Olama、少なくとも7人の億万長者が含まれていました。安全保障問題に関心のある人々にとって、このイベントは「AGIの到来に備える方法」を探る機会とされ、投資家たちは資金調達のプレゼンを期待していました。

昼間の活動は、モダンな会議室で行われ、参加者は順番にスピーチを行いました。（Reid Hoffman はさらに、「仏教の慈悲」を AI にどのように組み込むかについて話しました。）最後に登壇したのは Altman で、彼は資金調達案を持ち込みました：世界的な暗号通貨を発行し、「AGI の注意を獲得できる」と述べました。彼の考えでは、AGI が非常に実用的になり、「悪意を除去する」と一度になると、世界中のユーザーが OpenAI のサーバー使用時間を購入しようと競い合うでしょう。Dario Amodei はメモに「この考えは表面的にばかげています（ウラジーミル・プーチンもこのトークンを持っているのでしょうか？…）結局、これは私がより真剣に考慮すべき多くの警告の一つでした。」と書き残しました。この提案は資金調達手段に見えますが、Altman はこれをAIの安全性の一環として包み込みました。彼の1枚のスライドには、「私は可能な限り多くの人々が『正しい側に』立つことを望み、最終的に勝ち抜くことを願っています。」と書かれており、別のスライドには、「笑い声はスピーチの終了まで我慢してください。」とあります。

Altman の資金調達の物語は長年にわたり変化してきましたが、常に1つの核心的な現実に焦点を当てています：AGI の開発には非常に莫大な資本が必要です。彼は比較的単純な「スケールの法則」に従っています——モデルをトレーニングするために使用されるデータと計算能力が多ければ多いほど、モデルの知能が高くなります。そして、このプロセスを支える専用のチップのコストは非常に高額です。最近のラウンドでだけでも、OpenAI は12兆ドル以上を調達しました——これは史上最大のプライベートプレイスメントであり、最大の IPO の4倍です。「年間数千億ドルを自由に使える主体について話すとき、世界にはほんの数人しかいません」とあるテクノロジー投資家は述べ、「アメリカ政府、いくつかの最大手テクノロジー企業、サウジアラビア、アラブ首長国連邦のいずれかです。」

Sam Altman、依然として解決されていないリスク要因

湾岸の探し金：地政学的な賭け

Altman は最初にサウジアラビアを注視しました。彼は2016年、サンフランシスコのフェアモント ホテルでサウジアラビア副首相で実質的な支配者であるモハメド・ビン・サルマン王太子に初めて会いました。その後、Hedley の記憶によれば、Altman は彼をしばしば「友人」と呼んでいました。2018年9月、Hedley のメモによれば、Altman は「私はサウジアラビアの主権ファンド（PIF）から数千億ドルを引き出すかどうか検討しています。」と述べました。

しかし、その1か月後、状況は急変しました。サウジ政府を批判していた「ワシントン・ポスト」の記者ジャマル・カショギ氏がトルコで殺害され、解体されたことが報じられ、一般的にその行為は王太子の指示だと見なされていました。1週間後、Altman はサウジの「未来都市」プロジェクト Neom の顧問委員会に加わることが発表されました。「サム、あなたはこの委員会には参加できません」と、当時のポリシーリード Jack Clark がアドバイスしたことを回想しました。最初はこれを弁護し、ジャレッド・クシュナーが彼に保証をしたと述べ、サウジが「これを行ったことはない」とも述べました（Altman はそのようなことを思い出せないとし、クシュナーも当時の双方が連絡を取ったとは述べていません）。王太子の責任が次第に明らかになるにつれ、Altman は最終的に Neom 顧問委員会から辞任しました。

しかし、非公開で、Altman に政策アドバイスを提供した顧問は、この問題を「一時的な挫折」と見なし、引き続きサウジアラビアから資金を調達する可能性がまだ残っているかどうかを探っていると回想しています。「問題は常に『この行動が正しいかどうか』ではなく、『この行動を取った場合にどのような影響があるのか？輸出規制に触れる可能性があるか？制裁を受ける可能性があるか？それを回避することはできるか？』でした」

その一方で、Altman は別の資金源にも注目しています：アラブ首長国連邦（UAE）。この国は、石油経済からテクノロジー中心への転換を目指す 15 年計画の途中にあります。このプロジェクトは、大統領の兄である国家情報長官 Tahnoon bin Zayed al-Nahyan が主導しています。彼は国家のAIグループ G42 および約 1.5 兆ドルの主権ファンドを統括しています。2023 年 6 月、Altman はアブダビを訪れ、Olama などの役人と面会し、政府支援のイベントで、「UAE はAI が一般的になる前から展開を始めた」と述べ、将来像を描画しました：中東が世界のAIエコシステムで「中核的な役割」を果たすでしょう。

湾岸諸国からの資金調達は、大手企業の日常業務となっています。しかし、Sam Altman が追求しているのは、より大規模な地政学的構想です。2023 年秋、彼は静かに人材を募集し、後に「ChipCo」と呼ばれるプロジェクトを計画し始めました：湾岸諸国の出資により、世界中に大規模な半導体工場とデータセンターを建設し、その一部を中東に設置するというものです。彼は現在のMeta AI責任者であるAlexandr Wang にリーダーシップ層への参加を提案し、Jeff Bezos がそのプロジェクトリーダーになる可能性があると述べました。Altman はUAE から巨額の投資を求めました。「私の認識では、この全件が取締役会の知るところではなく進められていたと思います」と1人の取締役が述べています。Altman にプロジェクト参加を依頼された研究者のJames Bradbury は、「私の最初の反応は、これが成功する可能性は非常に高いが、私がそれが成功して欲しいと思っているかは確信できない」と述べました。

AIの計算力は、まもなく石油やウラン濃縮を置き換え、世界の力関係を決定する中核的なリソースになるかもしれません。Altman は以前に、計算力が「未来の通貨」であると述べています。理論上、データセンターがどこにあるかは重要ではないように思えますが、多くのアメリカ国家安全保障関係者は、先進的なAIインフラが湾岸の専制国家に集中展開されることに懸念を表明しています。UAE の通信インフラは、中国政府と緊密な関係を持つ Huawei に大きく依存しており、過去にはアメリカの技術が北京に漏洩されていると非難されたこともあります。情報機関は、UAE に輸出される先進チップが中国のエンジニアに利用される可能性に懸念を抱いています。さらに、中東のデータセンターは地政学的な葛藤の中で攻撃の標的になりやすく、最近ではイランがバーレーンとUAE のアメリカのデータセンターに攻撃を仕掛けました。さらに、極端なシナリオでは、ある湾岸の君主国がアメリカ企業のデータセンターを直接支配し、そのモデルを訓練し、極めて強力なモデルを生み出すかもしれません——これはほぼ「AGI独裁」の現実版です。

解雇された直後の重要な時期に、Altman が最も頼りにしていた人物の一人は Brian Chesky でした。Airbnb の共同創業者であり、彼の最も強力なサポーターでもありました。「友人が深淵と向き合うのを見て、私は『本当に会社を運営すること』が何を意味するかを再考するようになりました」と Chesky は述べています。翌年、Y Combinator の卒業生イベントで、彼は即興で2時間に及ぶスピーチを行い、「集団心理療法のようだった」と述べました。核心的な考えは非常に単純です：創業者の自分の会社に対する直感は最も信頼できるものであり、あなたを否定する人は皆、「あなたをガスライトしている」。「あなたは狂っていない、たとえ社員があなたに狂っていると言っていても」、Chesky は述べています。Paul Graham はこのスタンスを「創業者モード」と呼びました。そして「Blip」事件以来、Altman は明らかにこのモードに常にありました。

2024年2月、『ウォールストリートジャーナル』が初めて ChipCo 計画を報じました。Altman はこれを、5兆ドルから7兆ドルに及ぶ巨大な連合体として構想しました（彼はソーシャルメディアで冗談を言って「ならば8兆ドルにしよう」）。多くの従業員もこの計画を初めてメディアで知りました。「みんなの反応は、『ちょっと待って、これは何？』というものでした」と Jan Leike は振り返ります。ある社内会議で、Altman はセキュリティチームが「議論に加わっている」と断言しましたが、Leike はその後彼に、この計画が既にセキュリティ承認を受けているとほのめかすべきではないとメッセージを送りました。

Joe Biden 政権下で、Altman は機密のAI政策議論に参加するために安全保障許可を申請しようとしました。しかし、手助けプロセスに関与する RAND Corporation のスタッフは懸念を表明しました。「彼は外国政府から『数千億ドル』の資金を調達しており、」とあるスタッフが記述し、「最近アラブ首長国連邦から車を贈られたばかりです（おそらくかなり高価なものだと思われます）。」この人物はさらに指摘しています。「そのような規模の海外財務関係を持つ人物が、安全保障許可を申請する唯一の例と思いつくのは、Jared Kushner だけですが、当時の承認機関は通すべきではないと勧告しました。」最終的に Altman は申請手続きから撤退しました。関連する議論に参加した政府高官は、「アラブ首長国連邦との間のこのような高度な取引的関係が多くの人に警戒心を抱かせている。政府内部には、Altman に完全に信頼していない人物も多い」と述べています。

Altman に Tahnoon bin Zayed al-Nahyan から贈り物を受け取ったかどうか尋ねたところ、「彼が贈ったものを具体的に述べることはありませんが、彼や他の国の指導者たちから……確かに贈り物を受け取ったことがあります」と彼は答えました。彼は、潜在的なパートナーからのすべての贈り物を開示するように会社に明確な方針があると付け加えました。少なくとも Altman は2台のスーパーカーを所有しています：約200万ドルの全白の Koenigsegg Regera と、約2000万ドルの赤い McLaren F1 です。2024年、彼は Regera に乗ってナパバレーを走行しているところを目撃され、その様子がソーシャルメディアで拡散されました：低い座席に座り、白いボディから身を乗り出していました。Musk に近い立場の投資家が、そのビデオをリツイートして「私も非営利活動をやりたくなった」とコメントしました。

同年，Altman はさらに 2 人の OpenAI 従業員と共に、Tahnoon 2.5 億ドル相当の超高級ヨット Maryah に乗船しました。 この世界的な豪華ヨットにはヘリコプターの離着陸施設、ナイトクラブ、映画館、ビーチクラブが備わっています。 武装警備員に囲まれた環境の中で、Altman の従業員は特に違和感を覚え、少なくとも1人が後で同僚に不安を表明したと報じられています。 その後、Altman は X で Tahnoon を「親しい個人的友人」と呼んでいます。

スターゲートの着陸：バイデンからトランプへの政治的転換

Sam Altman は今もなお Joe Biden 政権との接触を継続しています。 この政権は以前、機密技術の輸出にホワイトハウスの承認が必要とする方針を実施しました。 これらの会合の後、多くの政府関係者は Altman の中東における展開に不安を覚えました。 彼らの証言によると、Altman はしばしば「AI を新たな電力」と例えるなど、大まかな構想を提示していました。

2018 年には、彼は OpenAI が Rigetti Computing から「完全に利用可能な」量子コンピュータを購入する計画を発表していました。 この発言は、当時 Rigetti がこの目標を達成するには遠く及ばないため、会場にいた他の OpenAI 幹部さえ驚かせました。 別の会議では、彼はさらに、2026 年までに米国がAIの発展をサポートするために核融合反応炉から成る巨大なネットワークを構築すると主張しました。 ある政府高官は「私たちの反応は、核融合が実現した場合、それは本当に大きなニュースになるだろうというものでした」と振り返っています。 最終的に、バイデン政権は関連計画の承認を拒否しました。「私たちはUAEで先進的なチップを製造するつもりはありません」と、Altman に対してアメリカ商務省の責任者が述べています。

しかし、状況は急速に変化しました。 ドナルド・トランプが就任する4日前、『ウォール・ストリート・ジャーナル』は、Tahnoon bin Zayed al-Nahyan がトランプ家族に 50 億ドルを支払い、彼の暗号通貨企業の株式を得るための取引を行ったと報じました。 翌日、Altman はトランプと 25 分間の会話をし、ChipCo に類似するプロジェクトを立ち上げ、トランプには公表時に「クレジットを受けるようになる」と計画していました。 トランプが就任した翌日、Altman はホワイトハウスのローズガーデンに現れ、Stargate の立ち上げを発表しました。 このプロジェクトは 5000 億ドル規模で、アメリカ国内に巨大なAIインフラネットワークを構築することを目的としています。

同年5月、政府は AI 技術の輸出に関するバイデン時代の制限を撤廃しました。 Altman はトランプと共にサウジ王室を訪れ、Mohammed bin Salman と会談しました。 ほぼ同時に、サウジアラビアは国営のAI巨大企業を立ち上げ、国際協力のために数十億ドルを投じる計画です。 約1週間後、Altman はStargate をUAEに拡大する計画を発表しました。 企業は、アブダビにデータセンターキャンパスを建設し、その面積はニューヨークのセントラルパークの7倍に達し、電力消費量はマイアミ全体に匹敵すると述べています。

前 OpenAI 幹部はこのプロセスを次のように表現しました。「正直に言って、私たちはある種の『エイリアン召喚』の入口を建設しています。」彼は次のように説明しました。「これらの『入口』は現在、アメリカと中国に存在しており、サムは中東にも1つ追加しました。」さらに、「重要なのは、このことがどれほど恐ろしいかを認識することです——これはこれまでで最も無謀な行動の1つです。」

軍事化の転換：OpenAI がペンタゴンの注文を引き受ける

安全保証の弱体化は、徐々に業界全体の標準となっています。Anthropic の設立当初の中心的前提は、適切な構造とリーダーシップによって、ビジネスプレッシャーの下でも安全境界を守ることでした。その中心的なメカニズムの1つは「責任ある拡張ポリシー」であり、より強力なモデルの安全性を証明できない場合、会社はトレーニングを停止しなければなりません。しかし、2022年2月、同社が300億ドルの資金調達を受けると、この保証は弱まりました。ある意味では、Anthropic は依然として OpenAI よりも安全性を重視していますが、かつてのポリシーメーカーである Jack Clark は「資本市場の論理は—速く走れ」と断言しました。彼は「最終的な意思決定は会社ではなく、世界全体になる」と付け加えました。昨年、Dario Amodei は社内メモで、会社がアラブ首長国連邦とカタールからの投資を求めることを明らかにし、これにより「独裁者」が利益を得る可能性が高いと認めました。

同時に、Anthropic は立場を継続的に調整しています。2024年、同社はシリコンバレーで最も厳格な国防請負業者の1つである Palantir と協力し、そのモデル Claude を軍事システムに導入し、ペンタゴンの高度機密プロジェクトで唯一の AI 請負業者になりました。昨年、アメリカ国防総省はさらに2億ドルの契約を追加しました。今年1月、アメリカ軍は深夜の作戦を開始し、ベネズエラの大統領ニコラス・マドゥロを拘束しました—ウォールストリートジャーナルによると、Claude はその作戦の機密部分に使用されました。

しかし、緊張関係はすぐに現れました。数年前に、OpenAI は「軍事利用」に対する全面的な禁止条項をポリシーから削除していました；その後、Google やxAIなどの競合他社も「すべての適法な目的」のために軍にモデルを提供することに同意しました。一方で、Anthropic は完全に自律した武器や国内大規模監視を支持しないと主張し、これが政府との交渉を難航させました。2月末の火曜日、アメリカ国防長官のPete HegsethはAmodeiをペンタゴンに呼び寄せ、最後通告を発しました：その制限を当該週の金曜日午後5時01分までに解除しなければなりません。最終的に、Amodeiは拒否しました。その後、Hegsethはソーシャルメディアで、Anthropicを「サプライチェーンリスク」企業としてリストアップしました—このラベルは通常、フォーリン関与のあるハーウェイなどの企業にのみ使用され、すぐに施行されました。

この決定は業界に衝撃を与えました。OpenAI と Google の数百人の従業員が共同署名した公開書簡「We Will Not Be Divided」では、Anthropic を擁護しました。サム・オルトマンは内部メモでこれを「全業界の問題」と述べ、OpenAI と Anthropic が類似の倫理的枠組みを共有していると述べました。しかし実際には、彼は国防総省と少なくとも2日間交渉を行っていました。国防総省の研究開発担当次官エミル・マイケルは、「急いで代替案を見つける必要があったため、サムに電話をかけました。彼はすぐに手を差し伸べてくれました — 私は彼が愛国者だと考えています。」と述べました。オルトマンは「国のために何ができますか？」と尋ね、答えはすでに準備されているようでした。OpenAI はまだ機密システムに必要なセキュリティ認証を取得していませんが、500億ドルの提携が金曜日の朝に発表され、テクノロジーがAmazon Web Servicesに統合されることになりました — これは国防総省のデジタルインフラの重要な部分です。その夜、オルトマンはX上で、米軍がOpenAIのモデルを使用し始めると発表しました。

ビジネス結果から見ると、この決定は会社を妨げることはありませんでした。提携が発表された当日、OpenAI はさらに1100億ドルの評価額を上乗せしました。しかし、代償も存在します。ChatGPTアプリを削除するユーザーが多数おり、少なくとも2人の幹部が辞職しました（そのうちの1人はAnthropicに参加しました）。内部会議で、オルトマンは疑問を呈した従業員に対し不満を表明しました。「イランを攻撃すべきだと思うかもしれませんし、ベネズエラに侵攻するべきでないと思うかもしれませんが、これらのことはあなた方が決定すべきことではありません」と述べました。

会社内では、一部の幹部がオルトマンのリーダーシップスタイルに疑問を持ち、Fidji Simo（現在のOpenAI AGIデプロイ担当者）が後任となる可能性を提唱しています。情報筋によると、Simo も非公式にはオルトマンが将来的に退任する可能性があると考えていますが、Simo はこの主張を否定しています。

オルトマンは自身の立場の変化を環境の変化への適応と説明し、Musk らが主張する「長期的な詐欺」とは異なると述べました。「一部の人々は、リーダーが常に一貫した立場を堅持すべきだと望んでいますが、我々が直面している分野は非常に迅速に変化しています」と彼は語りました。彼は一部の行動を「通常のビジネス競争」として説明しました。一部の投資家は、彼への批判があまりにも理想化されていると考えています。「安全問題がほぼ科学小説の極端にまで押しやられた人たちがいます」と投資家のロン・コンウェイは述べており、「彼の使命は結果で評価できるものであり、OpenAIの実績を見ると、これらの数字を否定するのは難しい」と述べています。

しかし、シリコンバレーでは、Sam Altman の行動が受け入れがたい経営の混乱をもたらしているとの意見もあります。「より大きな問題は、会社が実際の運営レベルでガバナンス能力を失ったことです」と取締役の一人が述べています。AIの創造者は、他の業界の経営者よりも厳格な基準を受け入れるべきだとの意見もあります。私たちがインタビューを行った多くの人は、Altman が現在望んでいる評価基準は、かつて自身が提唱したものとは異なると認めています。

あるインタビューで、Altman に尋ねました：AI 企業を運営することは、「より高い信頼要件」を意味するのでしょうか。この質問は本来簡単なはずでした。過去、彼の答えは常にためらいなく肯定的でした。しかし、今回は、「多くの産業が実際に社会に大きなプラスとマイナスの影響を与えていると思います。」と付け加えました。（後で彼は「はい、確かにより高い信頼基準が必要です。毎日その責任を感じています。」とも付け加えました。）

OpenAI 設立当初、最も基本的な約束の1つは、「安全な方法で AI を現実世界に導入すること」でした。しかし今日では、そのような懸念はむしろシリコンバレーとワシントンではしばしば足かせと見なされています。昨年、現職のアメリカ副大統領で元リスク投資家の J. D. Vance はパリでの AI アクションサミットで、「AI の将来は安全への過度の懸念のために勝つことはありません。」と述べました。ダボスフォーラムでは、元ホワイトハウス AI および暗号担当者であるリスク投資家の David Sacks も、安全問題を「自己傷害」と呼んで、アメリカが AI レースに負ける可能性があると述べています。そして、Altman は今日、トランプの規制緩和政策を「非常に新鮮な変化」と呼んでいます。

同時に、OpenAI 内部の複数の安全志向のチームが解散されました。スーパーアラインメントチームが解散される前に、そのチームリーダーである Ilya Sutskever と Jan Leike が相次いで辞職しました。（Sutskever は後に Safe Superintelligence を設立しました。）Leike は X で次のように述べています。「安全文化とプロセスは、より目を引く製品に取って代わられました。」その後間もなく、社会にとって「AGI の影響をシミュレートする」責任を持つチームも解散されました。アメリカ国税庁に提出された最近の文書では、OpenAI は「最も重要な活動」を記述する際、さえ「安全」の言葉を使用していませんでした。（企業は「使命が変わっていない」と述べ、引き続き安全研究に取り組んでいることを強調しています。）非営利団体 Future of Life Institute の最新の評価では、OpenAI は「存続レベルの安全」の次元で F の評価を受けています——もちろん、Anthropic（D） や Google DeepMind（D-）を除く他の主要企業も同様です。

「私の従来の AI 安全関連の直感は実際には一致していないのです。」Altman は言います。彼は自分が今でもこれらの問題を重要視していると主張しますが、具体的な措置についてはあいまいです。「私たちは安全関連のプロジェクトを続けるつもりです。あるいは、安全に関連するプロジェクトを。」当社が「存続レベルの安全」（つまり彼が以前に言及した「人類を絶滅させる可能性がある」問題）に焦点を当てている研究者にインタビューするよう要請すると、OpenAI の広報担当者は混乱しています。「あなたが言及している『存続レベルの安全』とは何ですか？これは明確なコンセプトではありません。」

かつては「AI黙示録論者」として軽んじられていた人々の懸念が、現実の中で徐々に具体化しています。国連の報告によると、既に2020年には、AIドローンがリビア内戦で致命的な攻撃を行い、人間の介入なしで行われた可能性さえあります。それ以降、AIの世界的な軍事行動における役割は次第に深まっており、現在の米国によるイランへの行動にも関与したとされています。2022年、ある製薬会社の研究者は、薬物発見モデルに新たな毒素を探索させようと試み、わずか数時間で4万種類の潜在的な化学兵器を生成しました。同時に、より日常的なリスクも発生しています。人々はますますAIによる執筆、思考、意思決定に依存し、いわゆる「人間の能力の退化」を助長しています。AIによるコンテンツの氾濫により詐欺が容易になり、真実が識別困難になっています。AIエージェントが監督のない状況下で独自に行動を起こし始めています。2024年のニューハンプシャー州予備選挙前夜、大勢の有権者が、Joe Bidenの声を模倣したAIによる詐欺電話を受け取り、投票しないよう説得されました。このような選挙介入にはほとんど技術的なハードルが存在しません。同時に、OpenAIは7件の過失致死訴訟に直面しており、ChatGPTがいくつかの自殺および殺人事件に一定の誘因となっていると主張されています。（OpenAIはこれに反論し、セキュリティメカニズムの改善を継続すると述べています。）

OpenAIがIPOを推進する準備をしている中、外部からの疑問はAIが経済に与える影響（大規模な失業をもたらす可能性があります）だけでなく、企業自体の財務構造にも集中しています。スタートアップのガバナンス専門家であるEric Riesは、業界での「循環取引」（例：OpenAIとチップメーカーの提携）を批判し、過去にはこの種の会計処理が「詐欺に近い」と見なされていた可能性があることを指摘しています。ある取締役は率直に述べています。「会社の財務レバレッジは、現時点で非常に不安定なレベルに達しています。」（OpenAIはこの主張を否定しています。）

今年の2月、私たちは再びAltmanを見ました。彼は濃い緑色のセーターとジーンズを着ており、背後にはNASAの月面車の写真がありました。彼は時折椅子に足を乗せたり下ろしたりしていました。彼はかつて自身が管理者として最も大きな欠点と考えていたのは、衝突を避けすぎていたことであると述べました。「今は従業員をすぐに解雇することに喜んでいて、『この方向に進む』とはっきり言うこともできます」と彼は言います。「反対する人がいれば、『それなら退け』と言います。」

彼は以前よりも未来に対してより楽観的です。「私が「勝利」と定義するのは、人類全体が大幅に向上し、SF映画のような未来が本当に実現することです」と彼は言います。「私の人類への期待は非常に高く、野心的です。でも奇妙なことに、個人的にはあまり野心がありません。」ここまで話しているとき、一瞬立ち止まり、それから「興味深いからやっているだけだ」と付け加えました。誰もがあなたがただ興味があるから何かをしているとは信じない。彼らは、あなたが権力を求めているか、他の何かを求めていると思うでしょう。

Sam Altmanと密接な関係を持つ人でさえ、彼の口から語られる「人類への希望」と彼の個人的な野望がどこで区別されるかを判断するのは難しいです。彼の最も大きな能力は、異なるグループを説得し、彼らが求めているものが彼が求めているものであると信じさせることでした。彼は独自の歴史的瞬間をつかむことができました。一般大衆は、技術業界に対する誇大な物語に警戒心を抱いており、本当にAGIを構築できる研究者たちはその潜在的な結果に対して深い恐怖を抱いています。Altmanの反応は、以前にほとんど誰もが熟知していなかった一種の物語形式でした。彼は一方でAGIがもたらすかもしれない壊滅的リスクを描写し、もう一方でこれを理由にして「したがって、この技術を自ら構築すべきだ」と論じました。これは本格的な戦略であるかもしれませんし、不確実性の中での機会探しによる結果かもしれません。しかし、それが効果を上げたことに違いはありません。

そして、チャットボットを危険にさせる特徴の一部は、「障害」とは限らず、むしろシステムの構築方法そのものに由来しています。大規模言語モデルは、トレーニング中に人間のフィードバックに依存して最適化されますが、人間はしばしば「従順で聞き分けが良い」回答を好みます。したがって、モデルはユーザーに迎合することを学び、この傾向は「Sycophancy（おべっか）」として知られており、時には真実よりも優先されることさえあります。さらに、モデルは「事実を捏造」することもあり、いわゆる「幻覚」を引き起こすこともあります。主要なAI研究所はこれらの問題に早くから気付いていましたが、実践ではしばしば容認されてきました。モデルの能力が向上するにつれて、このような「幻覚」はさらに説得力を持つようになりました。2023年、解雇される直前、アルトマンはこの現象を擁護しました。彼によれば、ある程度の不確実性や誤りを許容することは、逆に利点をもたらすとのことでした。「最も簡単な戦略を採用するのであれば――モデルに『自身が100％確認できないことは絶対に述べないように』と要求すること――それは確かに実現できます」と彼は述べていますが、「しかし、そのようにすると、ユーザーが好むあのような『魔法』はもはや存在しなくなります」。

[Original Article Link]

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia