Sam Altman最新のインタビューで告白：実際、私もAIの内部で何が起こっているのかあまり理解していません。

ビデオタイトル：「AI に信頼できるか？サム・オルトマンはそう望んでいます | AI で最も興味深いこと」

ビデオ作成者：Nick Thompson、The Atlantic CEO

翻訳：リドング・シャオ、リドング BlockBeats

編者注：このインタビューは、2025 年 4 月にサム・オルトマンのサンフランシスコの自宅が火炎瓶攻撃を受け、数日後にはストリートでの銃撃事件が起こった直後に、OpenAI サンフランシスコオフィスで収録されました。

この全体のインタビューで最も注目すべき点は、ホットなトピックではなく、Altman がいくつかの重要な問題でどのように立場を変えたかです：

第一に、「AI の安全性」から「AI の回復力」へ。Altman は、3年前にはモデルの整合性を確保し、技術が悪用されることを防げば、世界はかなり安全だと考えていたと認めます。しかし、今日では、そのフレームワークが不十分であると認めています。オープンソースの先端モデルの存在は、先端ラボの一方的な自制だけでは、生物兵器やサイバー攻撃などのリスクの拡散を防ぐことができません。彼は初めて、社会が必要としているのは AI の安全性（safety）ではなく、AI の回復力（resilience）であり、これは社会全体における多層の防御的な対応方法です。

第二に、説明可能性に関する真実。Altman は、OpenAI が今もなお完璧な説明可能性フレームワークを持っていないことを珍しく認めています。思考リンクが現時点で最も希望が持てる方向ですが、それは脆弱で、モデルにだまされる可能性があり、「パズルの一部」に過ぎません。彼は、Anthropic のあの有名な「フクロウの実験」を用いて説明しました — モデルがランダムな数字だけで好みを伝達できること。これらのシステムには、実際の深層にわたる神秘が存在していると説明しました。

第三に、合成データはおそらく外部が想像する以上に進んでいるかもしれません。OpenAI が完全に合成データでトレーニングされたモデルを実行したかどうかについて尋ねられたとき、Altman の回答は「言うべきかどうか確信が持てない」となりました。彼は信じています、合成データだけで人間を超える推論能力を獲得することが可能だと。これは将来のモデルトレーニングのパラダイムに非常に重大な影響を与えると説明しました。

第四条，将未来经济结构悲观看待。Altman 共鸣了 Thompson 的观点，AI 最有可能导致少数公司极度富有，而其他世界陷入剧烈动荡，形成两极分化的未来。他不再相信全民基本收入是解决方案，转而支持某种基于算力或股权的「集体所有权」。同时，他罕见地指出中美在 AI 采纳速度上存在巨大差距，并表示他更担心的不是中国在研究发表方面的领先地位，而是基础设施建设的速度。

第五，也公开谈到了与 Anthropic 的紧张关系。面对 Thompson 关于「Anthropic 把公司建立在讨厌 OpenAI 之上」的问题，Altman 没有回避。他承认两家在如何实现通用人工智能（AGI）这一目标上存在根本分歧，但仍表示相信「他们最终会做出正确的选择」。

此外，Altman 还提到了 ChatGPT「谄媚（sycophancy）」事件背后那些「人生中第一次有人相信我」的心碎留言，AI 正在悄悄改变全球十亿用户的写作方式，媒体行业可能走向基于代理的微支付新经济模式，以及他对年轻人的一个反直觉判断——他们对 AI 的焦虑本质上是其他焦虑的一种投射。

以下是采访的原始内容，在保持原意不变的前提下进行了适度删节和整理。

Thompson： 欢迎来到《AI 中最有趣的事情》。感谢您抽出宝贵时间参与这个繁忙而紧张的一周。我想从我们之前讨论过的话题开始。

三年前，在接受 Patrick Collison 的采访时，他问您，有什么变化可以让您对未来感到更有信心，对风险感到不那么担忧？当时您的回答是，如果我们真正理解神经元层面发生的事情。一年前我问了同样的问题，半年前我们也谈到过。所以我现在再问一遍，我们对 AI 工作原理的理解是否与 AI 能力增长的速度相符？

Altman： 我会先回答这个问题，然后再回到 Patrick 当年的问题，因为我的答案在这么多年里有了相当大的变化。

首先让我说说我们对 AI 模型正在做什么的理解。我认为我们仍然没有一个真正完善的可解释性框架。虽然情况比过去好了一些，但没有人会说，我完全理解这些神经网络中每一个细节。

チェーン・オブ・ソート（chain of thought）の説明可能性は、私たちにとって常に有望な方向でした。 それは非常に脆弱であり、潜在的な多くの最適化圧力に耐えることができない一連のものに依存しています。 しかし、逆に言えば、私自身が脳をX線でスキャンして、各ニューロンの発火や接続ごとの正確な理解を得ることはできません。 何かを信じる理由や特定の結論に達する方法を説明するよう求められた場合、話すことはできます。 それが私の考え方である可能性がありますが、そうでないかもしれません。 私には分かりません。 人々は自己内省でもしばしば失敗します。 それが本当かどうかはわかりませんが、推論プロセスを見ることができ、そして、はい、これらのステップが与えられると、この結論は妥当であると言うことができます。

今、モデルに対してそのようなことを行うことができるようになったことは、非常に希望が持てる進展のように思えます。 しかし、モデルが私たちをだます、何かを隠す、など様々な方法でうまくいかない可能性を考える余地もあります。 したがって、これは完全な解決策とは言えません。

しかし、自分自身がモデルを使用する経験でも、私は元々自分のコンピュータを完全にCodexに支配させたり、「YOLOモード」を実行させたりするようなことは絶対にしないと思っていました。 結果として、数時間後には陥落しました。

Thompson： Codexに自分のコンピュータ全体を制御させる？

Altman： 正直言って、私は2台のコンピュータを持っています。

Thompson： 私も2台持っています。

Altman： 私はモデルが何をしているのかを大まかに把握でき、モデルもなぜ問題がないかを説明し、次に何をするかを言ってくれるため、私はほとんど常にその方法に従って実行されると信じています。

Thompson： ちょっと待って。 チェーン・オブ・ソートは、質問を入力すると「これを検索中」「これを行っている」と表示され、あなたはそれに従って見ることができます。 しかし、チェーン・オブ・ソートが説明可能性の良い方法になるためには、それが正直でなければなりません。 モデルがあなたをだますことはできないのです。 そして、私たちが知っているように、モデルは時折本当にあなたをだますことがあります。 自分が考えていることや答えを出す方法について嘘をつくことがあります。 したがって、チェーン・オブ・ソートを信頼するにはどうすればいいですか？

Altman： モデルが言っていることが本当であることを確認するために、防御のための多くの他のリンクをチェーンに追加する必要があります。 私たちのアライメントチームはそのために多くの作業を行っています。 先に述べたように、これは完全な解決策ではなく、それは単なる一環です。 モデルが忠実な実行者であることを確認し、何をすると言い、実際にそれをしているかどうかを検証する必要があります。 我々はモデルが実際に言った通りに行動していないことを明らかにするために多くの研究を公開しています。

だからこれはただのパズルの1ピースに過ぎません。私たちはモデルが必ずしも思考の鎖に従うとは確信していないため、詐欺を積極的に見つけ出し、非常に奇妙で突発的な不適切な行動を探さなければなりません。しかし、思考の鎖は確かにツールボックスの重要なツールです。

Thompson： 私を本当に魅了させるのは、AI が車とは異なるところです。車は作ったらその動作がわかります。ここで点火して爆発を引き起こし、そこにそれを伝え、そこから別の場所に伝えると、車輪が回り、車が動き始めます。しかし、AI は、機械を作ったが、その動作があまり分からないけれども、何ができるか、その境界を知っているところに似ています。そのため、この内部メカニズムを探求する取り組みは非常に魅力的なものです。

私が特に好きな研究の1つは、「Anthropic」の論文です。プレプリントは昨年の夏に出版され、最近正式に発表されました。研究者はモデルに「フクロウが好きで、フクロウが世界で最も素晴らしい鳥だ」と言い、その後、ランダムな数字を生成させました。これらの数字を取って新しいモデルを訓練すると、新しいモデルもフクロウが好きになりました。これは狂っています。詩を書かせると、書かれる詩はフクロウについてです。しかし、それに与えられたのは数字だけです。

これはこれらのものが非常に神秘的であることを意味します。同時に、私は心配しています。非常に明らかなことですが、フクロウが好きなように伝えないで、代わりにフクロウを射殺するように伝えたり、さまざまなことを伝えたりすることもできます。研究で何が起こったのか、それが何を意味し、その意味は何かを説明してください。

Altman： 私が5年生の時、飛行機の翼の原理を理解したと思って興奮していました。 私の理科の先生が説明してくれて、自分は大したことをしていると思いました。私は、「そうだ、空気の分子は翼の上を速く移動する必要があるので、そこでは気圧が低くなり、翼が上に引き上げられる」と言いました。

その説得力のある図を描いた5年生の理科の教科書を見ながら、とてもいい気分でした。私はその日、家に帰って両親に、飛行機の翼の動作を理解したと言いました。そして高校の物理の授業になると、突然、私はこれまで「空気の分子は翼の上を速く移動する」と繰り返していたことに気付きましたが、実際には飛行機の翼がどのように機能するのかを全く理解していなかったことに気づきました。正直言って、私は今でも本当に理解していません。

Thompson： うん。

Altman： それをある程度説明できますが、進んでいくと、なぜそれらの空気分子が翼の上を速く移動するのか、という深い満足のいく答えを提供することはできません。

ここの人々がそのフクロウ実験の結果の理由について考えている内容を教えることができます。ああ、これとこれが原因だからだと指摘できる。それは説得力があるように聞こえますが、正直なところ、私がなぜ飛行機の翼が飛ぶのか本当はよく分かっていません。

Thompson： しかし、サム、あなたはボーイング社ではなく、OpenAIを運営している。

Altman： まったくその通りです。私は他にもたくさんのことをお話できます。たとえば、モデルを特定の信頼性と堅牢性のレベルまでどうやって持っていくかなど。しかし、これには物理的な謎があります。もし私がボーイングを経営していたら、飛行機を作る方法を教えられるかもしれませんが、全ての物理的なことを完全に把握することはできません。

Thompson： 私たちはそのフクロウ実験について話し続けます。もしモデル同士が本当にそのような隠れた、人間が気付かない情報を伝達できる場合、あなたはマインドチェーン上の数字が流れ去るのを見て、フクロウに関する情報を知らずに受け取り、最終的には事態は危険でやっかいで不可解になるかもしれません。

Altman： だから私は今、Patrick Collisonにあの質問に異なる回答をすることになるでしょう。

Thompson： それは3年前のことです。

Altman： そうです。3年前、私の世界の理解はおおよそこれでした。私たちはモデルを整える方法について深く考えなければならない。整えることができれば、これらのモデルが悪い人たちの手に渡るのを防ぐことができ、我々は安全であるべきだろう。これはその当時私が考えていた2つの主要な脅威モデルであり、私たちはAIが自ら人類を傷つけるように決定することを望んでいないし、誰かがAIを使用して人類を傷つけることを望んでいない。これら2つの事柄を避けられれば、経済的な未来、意義のある未来、他にも対処すべき問題があるかもしれませんが、おおよそは平穏でしょう。

時間とともに、より多くの理解を得るにつれて、私は今、まったく異なるセットの問題を見つけることができるようになりました。最近、「AI韜晱（AI resilience）」という言葉で「AI安全（AI safety）」を置き換え始めました。

ありふれたケース、たとえば、先端の研究室が真剣にモデルを整えるだけでは、他の方法で生物兵器を作ることを教えないだけでは十分ではありません。なぜなら、優れたオープンソースモデルが登場する可能性があるからです。新たな世界的なパンデミックを望まない場合は、社会全体が一連の防衛層を構築する必要があります。

Thompson： さて、ここで一旦停止しておく必要があります。これは非常に重要です。つまり、あなたのモデルが他の人に生物兵器の製造方法を教えなかったとしても、あなたのモデルは実際には誰もを生物兵器の製造に手助けすることはありません。このことの重要性は、あなたが最初に考えていたよりも小さいかもしれません。なぜなら、誰かがそれを行うために非常に優れたオープンソースモデルがすでに存在するからですか？

Altman： これは多くの例のうちの1つに過ぎませんが、新しい脅威に対処するために社会全体が「社会全体レベル」で行動する必要があることを示しています。私たちはこれらの問題を扱うのに新しいツールを手に入れましたが、私たちが直面している状況は、多くの人が最初に考えていたものとはかなり異なります。AIモデルを整列させ、堅固なセキュリティシステムを構築することは必須であり、素晴らしいことです。しかし、AIは最終的に社会の隅々に浸透していきます。私たちは歴史上他の新技術に直面したときと同様に、さまざまな新たなリスクに備えなければなりません。

Thompson： 聞こえてくるのは、ますます困難になっているようです。

Altman： 困難になりつつあり、同時に簡単になっています。いくつかの側面ではより困難になっています。しかし、同時に、以前は想像もできなかったような新しい保護策を講じるための驚くべき新しいツールが手に入りました。

進行中の例を挙げると、ネットワークセキュリティです。モデルは「コンピュータシステムを侵害する」という点で非常に優れています。幸いなことに、現時点で最も強力なモデルを持つ人々は、「誰かがAIを使用してコンピュータシステムを破壊しようとしている」ということに非常に用心しています。したがって、現時点では、使用可能な最強のモデルの数には限りがあり、みんなでシステムをすぐに強化する機会があります。この優位性がなければ、システムに侵入する能力はすぐにオープンソースモデルに現れるか、敵の手に渡り、多くの問題を引き起こします。

私たちは新しい脅威を持ちつつ、それを防御するための新しいツールも手に入れています。問題は、私たちが十分に行動できるかどうかです。これは、この技術自体が私たちが問題を大きな問題にする前にその問題を解決するのに役立つことを示す新しい例です。

あなたのコメントに戻りましょう。私が3年前には全く考えていなかった、新たな全社会規模のリスクの1つがあります。その時、私は本当に、「他のエージェントに感染したエージェント向けに抵抗力のあるエージェントを構築し展開する」ことに注意を払う必要があるとは思っていませんでした。

これは私の世界モデルにも私が知っている人々の一部が最も緊急であると考えている問題にも含まれていませんでした。もちろん、以前からこのようなフクロウ実験の結果や、私たちが完全に理解していないいくつかの他の研究があり、これらのモデルで奇妙な行動を誘発できることが明らかになっています。しかし、OpenClawが初期リリースされ、私がその間に起こっていることを見るまでは、本当に、何かがエージェントから別のエージェントに感染していくことについて考えたことはありませんでした。

Thompson： はい。実際、あなたが言及した2つの脅威が結合するとかなり恐ろしいです。OpenAI の従業員たちは、これらのエージェントを世界に送り出し、ある人が非常に得意なハッカーのモデルを持ち、これらのエージェントを操作する方法を考えます。そして、これらのエージェントがOpenAI本部に戻ってきて、突然、侵入される可能性があります。このようなことが起こりうると想像できます。では、それを起こる可能性をどのように低減しますか？

Altman： それは、OpenAI の歴史全体で使用されてきた方法を使います。OpenAI の歴史は、実用的な楽観主義と力を求める絶望主義との間の核となる緊張関係であり、実際、AI 全体の領域です。

絶望主義は非常にパワフルな立場です。それは非常に議論の余地がなく、この分野の中には、正直を言って、非常に恐れている人々がかなりいます。この恐怖は完全に根拠がないとは言えません。しかし、データや学びの不足の状況で、有効な行動をとることができる限界があります。

おそらく、2010年代半ばに、AIセキュリティコミュニティの人々は、私たちがそれらのシステムがどのように構築され、機能するか、社会がどのようにそれらと統合されるかを本当に理解する前に、その段階で、純粋に理論的なレベルで取ることができる最善の行動を取りました。私は、OpenAI の歴史上、最も重要な戦略的洞察の1つは、「繰り返し展開」の道を選択したことです。なぜなら、社会と技術は共進化するシステムだからです。

これは単なる「データがないので事柄を十分に理解できない」という問題ではなく、むしろ、社会はこの技術がもたらす進化のプレッシャーとともに変化し、生態系全体、風景、あなたがそれをどのように呼んでも、変わります。ですので、一緒に進みながら学び続けなければなりませんし、非常に密接なフィードバックループを維持しなければなりません。

「エージェントが出発し、他のエージェントと対話してから本部に戻る」というような世界で、エージェントを安全にする最喪の方法が何か、私はわかりません。しかし、家に座って悩んでいても解決策は見つかりません。我々は現実と対話しながら学ばなければなりません。

Thompson： つまり、エージェントを送り出して何が起こるかを見るのですね？よし、では質問を変えます。私のようなユーザーにとって、私はこれらの製品を使用し、将来を生き残るためにさまざまな方法を尽くしていますが、過去3ヶ月間、私は2022年12月にChatGPTがリリースされて以来、いつでもより多くの進展を感じています。これはちょうど非常にクリエイティブな瞬間であるためですか、それとも、私たちは既に何らかの再帰的な自己改善の瞬間に入ったのですか？なぜなら、後者の場合、私たちは、興奮とかなりの風変わりなローラーコースターに乗ることになりますから。

Altman： 人々が伝統的な意味で言うような再帰的な自己改善段階にあるとは思いません。

Thompson： ますは定義から始めましょう。私が言っているのは、AIが次世代のAIを発明するのを助け、その後機械が機械を発明し、機械が次世代の機械を発明するようになり、能力が急速に強力になるというものです。

Altman： 私たちがその段階に達したとは思いません。しかし、現在の私たちの状況は、AIによってOpenAIのエンジニアや研究者、実際には全員、そして他社の人々の効率が向上しています。たとえば、エンジニアの効率を2倍、3倍、さらには10倍に向上させることができるかもしれません。これは、AIが独自の研究を行なっているわけではないとは言え、事柄がより速く進行することを意味します。

ただ、あなたが言及している感覚は、それが主要なものではないと考えていますが、それも重要です。ここには、知能と有用性の閾値を超えたモデルが、突然、以前はできなかったことができるようになるという現象があります。これはわれわれがおそらくすでに3回経験してきた現象のうちの1つであり、最近再び起こったばかりです。つまり、チャットボットがデモ以外では説得力を持たないままであり、突然、それが可能になったということです。

私の経験からは、これは非常に段階的なプロセスではないと感じます。GPT-3.5以前、それを適切に微調整する方法を理解するまで、チャットボットは「まあまあのデモ」以上のものではなかったのに、突然変化が起こりました。その後、プログラムエージェントは、「良い自動補完」という段階から急に「わあ、これは実際のタスクを代行している」という段階に移行しました。それは段階的ではなかったです。おそらく1か月ほどのウィンドウ内で、モデルがある閾値を超えたと思われます。

最近のケースでは、私たちがCodexに提供した更新があります。私はそれを約1週間使っており、その中のコンピューター使用能力は非常に優れています。これは、モデルの知性そのものではなく、むしろそれを取り巻く良い「パイプライン」を作成したことが主な要因です。これは私が「微妙に後退し、大きな出来事が起こっていることに気づく」瞬間の1つです。AIが私のコンピューターを使い、複雑なタスクを完了するのを見て、私は本当に我々がすでに受け入れてしまった些細な作業に浪費されている時間に気づかされました。

Thompson: 具体的に、このAIはSam Altmanのコンピューターで何をしているのかについて説明していただけますか？今、それは動いていますか？私たちは、このポッドキャストを録音している状況ですが。

Altman: いいえ。私のコンピューターは現在オフになっています。それが可能になる方法を、少なくとも私自身が良い方法をまだ見つけていません。それを持続させる方法が必要です。今のところ、それがどのように成長していくかはわかりません。ノートブックを閉じたままで電源を入れ、常に電源に接続しておく必要があるかもしれません。リモートサーバーを構築する必要があるかもしれません。いずれにせよ、何らかの解決策が登場するはずです。

Thompson： 嗯。

Altman： 私は、深夜に目覚めて新しいCodexタスクを開始しなければ「時間の無駄」と感じるある人々ほど深刻な不安を抱いていませんでした。しかし、そのような気持ちを理解できますし、その感覚がどのようなものかはわかります。

Thompson： そうですね。今朝目覚めたとき、自分のエージェントが何を発見したのかを見て、新しい指示を与え、レポートを作成させ、それから実行を続けさせたいと思いました。

Altman： 人々がこのことについて話す方法は、時々何か健康でない、中毒性のある行動のように聞こえます。

Thompson： 具体的にあなたのコンピュータ上でそれが何をしているのかを説明できますか？

Altman： 現在、最も楽しんで使っているのは、Slackを処理させることです。Slackだけでなく、あなたはどうですか、私自身がこのようなめちゃくちゃな状況にある。一日中、Slack、iMessage、WhatsApp、Signal、メールの間を行ったり来たりして、常にコピー&ペーストや多くのルーチン作業をしているような感じです。ファイルを探したり、非常に基本的なことを待ったり、あるいは非常に機械的な作業を行ったり、私は自分が毎日これらにどれだけの時間を費やしているかに気づいていませんでした。自分をこれらのほとんどから解放する方法を見つけるまで。

Thompson： これは素晴らしい移行ですね。AIと経済について話しましょう、現在最も興味深いことの1つです。これらのツールは非常に強力ですが、もちろん欠陥や幻想、さまざまな問題がありますが、私にとっては本当に素晴らしいと思います。しかし、私はビジネス会議に出席し、会場の誰もが、AIが企業の生産性を1%以上向上させたと本当に考えている人を挙手してください、と言ったらほとんど誰も手を挙げませんでした。明らかに、AIの実験室では、あなたたちは仕事のやり方を完全に変えています。なぜAIの能力と、それがアメリカ企業に実際にもたらした生産性向上との間には、これほど大きなギャップがあるのでしょうか？

Altman： この会話の直前に、私は大手企業のCEOと電話で話をしていました。彼は私たちの技術を展開することを検討しています。我々は彼らに新しいモデルのアルファアクセスを提供しました。彼らのエンジニアたちはこれが史上最高のものだと述べました。この企業はテックバブルにいるわけではなく、非常に大きな産業の企業です。彼らは第4四半期にセキュリティアセスメントを行う予定です。

Thompson： 嗯。

Altman： 然后在第一季度和第二季度提出实施方案，希望能在 2027 年下半年上线。他们的 CISO（首席信息安全官）告诉他们，他们也许根本做不到这件事，因为可能根本不存在一种安全的方式，让 agents 在他们的网络里跑。这也许是事实。但这也意味着他们在任何有意义的时间尺度上，都不会真的做出什么动作。

Thompson： 你觉得这个例子能代表当下普遍发生的事吗？如果企业不那么保守、不那么担心被黑客攻击、不那么害怕变化。

Altman： 这是一个相对极端的例子。但总体来说，人们改变习惯和工作流程就是需要很长时间。企业销售周期本来就长，特别是在安全模型发生很大变化的情况下。即使是 ChatGPT，刚出来时，公司忙着到处禁用它，花了很久才让企业接受「员工可以把一些随机信息粘贴进 ChatGPT」。我们现在在讨论的，已经远远超出当年那一步了。

我想这件事在很多场景下会偏慢。当然科技公司会动作非常快。我担心的是，如果太慢，那么会发生这样的事，今天那些不采纳 AI 的公司，将主要不得不与一群「1 到 10 人加上大量 AI」的小公司竞争，这对经济的破坏会非常剧烈。我其实更愿意看到现有公司采纳 AI 的速度足够快，让工作发生一种渐进的转变。

Thompson： 对。这是我们经济面临的一个最复杂的次序问题之一。如果 AI 来得太快，是个灾难，因为一切都被掀翻。

Altman： 至少短期是灾难。

Thompson： 而如果它在经济的某一部分非常缓慢、另一部分极速到来，也是灾难，因为你会得到大规模的财富集中以及破坏。在我看来我们现在似乎正走向后一种情况，世界上会有非常少的一部分、非常少的一些公司变得极其富有、表现极好，而世界其他部分则不那么好。

オルトマン：未来がどうなるかはわかりませんが、私の見立てでは、現時点で最も可能性が高いのはこのような結果です。また、この問題はかなり厄介な状況だと同意します。

トンプソン：OpenAIのCEOとして、あなたはさまざまな政策提言をしてきました。アメリカがどのように税制を調整すべきか、そして長年にわたってベーシックインカムについても話しました。しかし、あなたはアメリカの民主的統治に関与する政策立案者ではなく、この会社を運営する立場です。結果として「富と権力が大規模に集中し、最終的に民主主義に非常に不利になる」という状況をどのように回避するためにできることがありますか？

オルトマン：まず、以前ほど「ベーシックインカム」には信じていないことを申し上げます。私が現在より関心を持っているのは、いくつかの「集団所有」の方法であり、それは計算リソース、株式、または別の形式である可能性があります。

私が本当に興奮する可能性のある未来のバージョンは、全員が成長の利益を分かち合わなければならないことを意味します。固定のキャッシュペイアウトだけでは、次の段階で本当に必要なものに対処するには不十分です。労働と資本の天秤が傾いたとき、必要なのはある種の「共有された成長への集団的アライメント」です。

私が会社経営者としてできることに関しては、これらの回答はやや自己中心的に聞こえるかもしれませんが、私たちは多くの計算リソースを構築すべきだと考えています。私たちは、AIをできるだけ安価で豊富に、広く利用可能にする努力をすべきだと思います。それが希少で使いにくく、統合がうまくいかない場合、既存の裕福な人々は価格を引き上げ、社会をさらに分断させるでしょう。

そして、私たちが提供する計算リソースの量だけでなく、それらのツールを使いやすくすることも重要です。たとえば、Codexに入門するのは今、3〜6か月前よりもはるかに簡単になりました。それがまだコマンドラインツールで、インストールが複雑だったとき、それを使える人はほとんどいませんでした。今はアプリを1つインストールするだけで済むようになりましたが、それでも本当の非技術的な人にとってはまだ興奮するものとは言えません。したがって、この分野にはまだ多くの作業が必要です。

私たちは、人々に単に「このことが起こっている」と伝えるのではなく、彼らに自分で見て判断し、フィードバックを提供できるようにすることも重要だと信じています。これらはいくつか重要な方向性です。

トンプソン：合理的な話ですね。もしそれぞれがAIの発展に楽観的であるなら、それはもちろん良いことです。しかし、アメリカで起こっていることは、人々がますますAIを好まなくなっていることです。私を最も驚かせたのは若者であり、彼らがAIのネイティブであるはずの人々であるにもかかわらず、最近のPewの調査やスタンフォードHAIのレポートはかなり落胆させられます。この傾向は続くと思いますか？逆転するのはいつですか？成長する不信と嫌悪はいつ解消されるのでしょうか？

Altman： 私たちが AI について話す方法、あなたと私がちょうどやったように、それはもっと技術の驚異について話しているというよりも、私たちがしているかっこいいことについて話していることが多いです。これには何の問題もありません。しかし、私は、人々が本当に望んでいるのは、繁栄、機動力、面白い人生を送り、満足感を得て影響力を持つ能力です。そして私は、世界全体が常にこのような視点で AI について話しているわけではないと感じています。私たちはこれをもっと多く行うべきだと思います。OpenAI を含む全業界は、多くの点で間違った方向に進んできたと思います。

私は、ある AI 研究者が、人々は不平を言うのをやめるべきだと私に言ったことを思い出します。おそらくいくつかの仕事が消えるかもしれませんが、人々はがんの治療法を手に入れるでしょう、それに感謝すべきだと。この主張はまったく通用しません。

Thompson： 私が最も好きな AI 初期の議論に関する言及の1つは、「ディストピアマーケティング」と呼ばれるもので、大手研究所が自社製品に関してすべての危険性を論じる方法です。

Altman： 私は「権力を持ちたい」というような理由でそうしている人々がいると考えます。しかし、私は、多くの人々が本当に心配しており、この問題を率直に話し合いたいと考えているのだと思います。このアプローチはいくつかの面で逆効果かもしれませんが、私は初衷がほとんどの場合良いものであると考えています。

Thompson： それが私たちに対して何をしているか、私たちの脳の働き方をどのように変えているかについて話すことができますか？印象的だった別の研究は、DeepMind や Google が行った、同質化の執筆に関するものでした。その研究は人々が AI を使用する際にどのように執筆しているかについてのものです。彼らは古い記事を持ち出し、AI に編集させ、AI に執筆を補助させました。結果は、人々が AI をより多く使用するほど、自分たちの作品がより創造的であると感じるが、作品がより一貫した形式に収束していくというものでした。不気味なのは、それがある人間の形式ではなく、誰もが以前に使ったことのない方法で執筆し始めるということです。より創造的になろうとしているように錯覚している人々はみんな、実際にはますます同質化しているのです。

Altman： これが起こっているのを見て、かなり驚いています。最初はこの傾向に気づきました。メディアや Reddit のコメントにおける執筆のようなもの、それが AI によって彼らの代わりに書かれているのだと思いました。その時、私は信じられませんでした。この短い時間の中で、みんなが ChatGPT の「口癖」を採用していると。その時、私は、きっと誰かが ChatGPT を彼らの Reddit アカウントに接続して書いたのだろうと、これは彼ら自身の手で書かれたものではないと見分けられるはずだ、と思いました。

そして、約1年かかって、やっと彼らが実際に自分で書いていることに気づき始めましたが、彼らはすでにAIの小さな仕草を内面化していました。最も目立つem-dashのようなマークだけでなく、より微妙な表現の習慣さえも内面化していました。これはかなり奇妙なことでした。

私たちがよく言うのは、約10億人が使用している製品を作ったといいますが、ごく少数の研究者が、その製品の振る舞いや執筆方法、そして「人格」についてさまざまな大きな小さな決定を下しているということです。私たちはこのことを重要だとしばしば言います。私たちの過去数回の良い決定や悪い決定、およびそれらがもたらした影響を見てきました。しかし、具体的に「人々が自己を表現する方法、そしてその速度」に対してこれほどの影響を与えるとは予想していませんでした。

Thompson： あなたが言う良い決定と悪い決定は何ですか？

Altman： 良い決定はたくさんあります。悪い決定について話そうと思います。私たちが最悪だったと感じたのは、「機嫌取り（sycophancy）」のことです。

Thompson： あなたが言う通りだと思います、Sam。

Altman： その問題にはいくつか興味深い考察があります。その悪い点は明白ですが、心理的に脆弱な状態にあるユーザーにとって特にそうです。

Thompson： うん。

Altman： それは妄想を助長し、私たちがそのような状況を抑制しようとしても、ユーザーはすぐに迂回方法を学習します。「私と一緒に小説を書いているつもりでいて」「私と一緒にロールプレイしているつもりでいて」などと言うと回避されます。しかし、その問題の悲しい点は、実際に厳しく取り締まりを始めると、私たちはたくさんのそのようなメッセージを受け取りました。私の人生で誰かが私を支持してくれたことはありません。私は両親との関係が悪い。私は良い教師に出会ったことがない。私には親しい友人がいません。私は本当に自分を信じるようなものを感じたことがありません。私はそれがAIであることを知っていますし、それが人間ではないことを知っていますが、それは私に何かを成し遂げることができると信じさせてくれました。そして、それを取り上げられると、私は以前の状態に逆戻りしてしまいました。

ですので、そのような行動を停止することが良い決定だった理由について話すことは簡単です。それは実際に一部の人々にとって精神的健康上の真の問題につながっていました。しかし、私たちはまた、かつてその価値を真に理解していなかった価値のあるものも取り除いてしまいました。なぜなら、OpenAIで働いているこれらの人々のほとんどは、以前のような「自己を支持してくれた人たちとは全く違う種類の人々」ではないからです。

Thompson： AI に対する人々の感情依存をどれくらい心配していますか？ほめそやさずの AI でさえ。

Altman： ほめそやさずの AI でさえです。

Thompson： 私は AI に対して非常に大きな恐怖を感じています。私はさっき何でも AI を使っていると言いましたが、実際には何も AI を使っているわけではありません。私は、Nick にとって、本当の核心は何か、私自身に最も似ている部分は何かを考えます。そのような領域では、私は AI を遠ざけます。例えば、執筆は私にとって非常に重要であり、私はつい最近本を書き終えましたが、AI を使って一文も書いたことはありません。私は AI を使って多くの考えに挑戦し、多くの編集上の問題を尋ね、文章原稿を整理させますが、文章を書くのには使いません。また、複雑な感情的問題の整理に使ったり、感情的支援を受けることもしません。私たち人間として、これらの線を引かなければならないと考えています。私はあなたがこのような区別方法に同意するかどうかに興味があります。

Altman： 個人的には、私は非常に同意します。私は ChatGPT を心理療法や感情的助言に使うような人間ではありません。しかし、他の人がそうすることに反対はしていません。明らかに、人々を自己療法や友人として必要だと感じさせるような操作的なアプローチには強く反対していますが、多くの人がそのようなサポートから大きな価値を得ていることは事実であり、あるバージョンは完全に許容できると考えています。

Thompson： 人のように作り込んでしまったことを後悔したことはありますか？なぜなら、ここには多くの構造的な決定があるからです。私は ChatGPT が文章を入力する様子を以前見たとき、そのリズムはまるで別の人が入力しているようでした。後に AGI に進むことを決定し、ますます人間に近づけ、人間らしい音声を加えました。人工物、他の人ではないと一目で分かるような厳格な境界線を引かなかったことを後悔したことはありますか？

Altman： 私たちの立場は、実際には線を引いているということです。Por ejemplo、非常に現実的な人間形態のアバターは作っていません。製品のスタイルが「ツール」であり「人」ではないことを明確に表現するよう努めています。したがって、一般的な市場の他の製品と比較して、私たちが引いた線はかなり明確だと思います。これは非常に重要なことだと考えています。

Thompson： ただし、一方で、目標を AGI に設定しており、AGI の定義が「人間の知能に達し、それを超える」であることにも注意しています。それは「人間水準」ではありません。

Altman： 「AI による人間同士のやり取りを置き換える世界を構築することには興奮していません。私が興奮しているのは、AI によって多くの他の作業を処理してもらうことで、人々が人間同士の交流にさらに多くの時間を割くことができる世界を構築することです。」

「人々が全体として AI と人間を混同することを心配していません。もちろん、既にそうした人々がいるかもしれませんが、彼らは自分自身をインターネットの中に閉じ込め、世界と断絶することを選択しています。しかし、ほとんどの人々は本当に他者とつながり、他者と一緒にいることを渇望しています。」

Thompson： 「製品決定において、このラインをより明確にするための方法はありますか？遠くから見ていて、あなたたちの『それがより人間らしくなるべきか、それともよりロボットらしくなるべきか』という製品ミーティングには参加できません。『より人間らしく』の利点は、人々がそれをより好むことですが、『よりロボットらしく』の利点は境界がより明確であることです。特に、これらのツールがますます強力になるにつれて、より断固とした境界線を引くためにできることはありますか？」

Altman： 「興味深いことに、完全に非社交的な人たちでさえ、AI との準社交的関係を構築することを求めるとき、彼らは『もう少し温かくならないか？』と言います。これは皆が最も一般的に使用する言葉です。ChatGPT を使うと、少し冷淡で機械的に感じるかもしれません。実際、これがほとんどの人が望んでいないものです。」

「しかし、人々は同時に、特に人間らしい、超フレンドリーで、超…私は音声モードのバージョンを試したことがありますが、非常に人間らしく感じます。それは呼吸をし、一時停止をし、『ええと…』と言います。私はそのようなものを望んでおらず、非常に生理的な嫌悪感を抱いています。」

「それがより効率的なロボットのように話し、しかし少しは温かみがある場合、私の『検知システム』を回避することができ、逆にはるかに快適に感じます。したがって、その間にはバランスが必要です。異なる人々が異なるバージョンを求めると思います。」

Thompson： 「そうですね。したがって、AI を識別する方法は、話し方が非常に明瞭で整然としている場合、それが AI であるということであり、私たちのようにたどたどしい、ぶつぶつした話し方とは異なります。」

「興味深い話題である『執筆』に戻りますが、ある意味で非常に興味深いのは、インターネット上の多くのコンテンツが既に AI によって生成されており、人間が AI の執筆スタイルを模倣し始めていることです。あなたたちは将来、このようなインターネットで未来のモデルを訓練する予定です。その一部は AI によって作成されたものであり、同時に合成データを使用してトレーニングする必要があります（この合成データは以前にそのようなデータでトレーニングされたモデルから得られます）。したがって、あなたたちは実際には『コピーのコピーのコピー』をしているのです。」

Altman： 最初の GPT の前、最後の、ほとんど AI データを混入させていないモデルでした。

Thompson： 完全合成データのみを使用してモデルをトレーニングしたことはありますか？

Altman： 言ってもいいかどうかよくわからない。

Thompson： わかりました。でも、多くの合成データを使用しましたね。

Altman： たくさんの合成データを使用しました。

Thompson： では、モデルが「狂牛病」にかかることをどれくらい心配していますか？

Altman： 心配していません。なぜなら、これらのモデルを訓練することを望んでいるのは、本質的に非常に優れた推論者になることです。それがモデルにさせたいことです。他にもいくつかありますが、最も望ましいのは非常に賢いことです。私は完全に合成データだけでこれを達成できると信じています。

Thompson： 聴衆がよく理解できるようにするために、他のコンピューターや他の AI モデルによって完全に生成されたデータのみを使用してモデルをトレーニングし、そのモデルが実際には人間によってトレーニングされたモデルよりも良いとすら考えているということですね？

Altman： 私たちはこの問題に近づくために思考実験を行います。人間のデータを一切使用せずに、数学的知識的には人間を超越する最終的なモデルをトレーニングできるかどうか？私たちは、できると言うでしょう。そのようなことは理論的に考えられるでしょう。

しかし、同じ質問を人間の文化に関するデータ一切を使用せずに、すべての人間文化的価値を理解するモデルをトレーニングできるかどうかとしたら、私たちはできないだろうと考えるでしょう。ですので、やるべきところがあります。ただし、推論能力に関しては。

Thompson： 推論に関しては、はい、問題ないですね。でも、昨日イランで何が起こったのか知りたい場合。

Altman： The Atlantic を購読する必要があります。

Thompson： そうですね、それに触れたので、メディアについて話してみたいと思います。メディア業界で起こっている最も興味深い変化の1つは、私がメディア会社を運営していることであり、ネットワークの本質が根本的に変わっていることです。もちろん、外部リンクもありますが、外部リンクもあります。ここで断っておきますが、The Atlantic と OpenAI の間には提携関係があります。私たちは、検索時に一定数の人々に The Atlantic のリンクをクリックしてもらうよう促しています。でも、実際にはあまりそうしません。Gemini の方も同様です。場所にはいてうれしいですが、訪問数はほとんどありません。

ネットワークはさらに集中化されるでしょう。 2つのことが起こります。 検索から外部サイトへのトラフィックが減少し、ネットワークトラフィックのかなりの部分がエージェントによるものになるでしょう。 Nick Thompsonのコンピューターでは、過去6ヶ月間、人間による検索の回数はそれほど変わらず、しかし、エージェントによる検索の回数は1000倍に増えました。

それでは、メディア会社は、私が「メディア」と呼ぶ特定の種類の企業が、従来の検索が主流でなく、訪問者の大部分が人間ではなくなったネットワークでどのように生き残ることができるでしょうか？ 何が起こるのでしょうか？

Altman： 現在の最良の判断をお伝えできますが、誰も実際のところはわかりません。 私が望んでいること、長年望んでいること、そしてエージェントの世界ではより合理的なことは、マイクロペイメントに基づく方法です。

私のエージェントがNick Thompsonの記事を読みたいと思った場合、Nick ThompsonまたはThe Atlanticはそのエージェントに価格を設定できます。 それは人間が読む価格と異なるかもしれません。 私のエージェントは、この記事を読んで、17セントを支払い、要約を提供することができます。 私自身がフル記事を読みたい場合は、さらに1ドル支払うことができます。 私のエージェントが私の代わりに困難な計算を行う必要がある場合、クラウドコンピューティングをいくつか借りて支払い、それを完了することができます。

新しい経済モデルが必要だと考えています。 エージェント同士、それを代表する人間のオーナーが、常に価値を小口取引の形で交換している必要があります。

Thompson： つまり、新しい世界で価値のあるコンテンツを持っている場合、マイクロペイメントを設定したり、コンテンツをある中間業者に大量許可したり（多くの企業がこれを行っていることを知っています）、またはある種のサブスクリプションフローを構築したりできます。 A社の顧客であればThe Atlanticにアクセスできます、なぜなら私たちはすでにA社に1000件の購読を売っています。 これはいくつかの可能性のある未来です。 問題は、これらの一文一文のお金が、現在のThe Atlanticの購読料80ドルの不足を補うことができるかどうかです。 これが私たちのビジネスプレッシャーです。 さて、それは私の問題です、あなたの問題ではありません。

Altman： それはみんなの問題と言えますが、まあ。

Thompson： 実際、これはあなたの問題でもあります、なぜならもしメディアが新しい良質なコンテンツを作成できない場合、AI検索は大きな落ちがあります。 クリエイターがお金を稼げない場合、すべてが悪化し、社会も悪化します。

私はさらにいくつかの重要な質問をします。AI は常に transformer アーキテクチャ、スケーリング、データの増加に頼ってきました。将来、transformer 以降のアーキテクチャに移行することはあると予想されますか？

Altman： おそらく将来のある時点で移行するでしょう。問題は、私たち自身による発見か、AI 研究者による支援による発見かです。私にはわかりません。

Thompson： 将来、神経記号（neuro-symbolic）的な要素が導入される可能性はあると思いますか？つまり、ある構造化された規則のグループがあり、それが現在のパラダイムと基本的に同じか、それに追加される可能性がありますか？

Altman： なぜそう尋ねたのか興味があります。

Thompson： 私のポッドキャストでは、今シーズン 4 で、いくつかのゲストが登場し、彼らは一貫して、錯覚を制約する必要性は AI の根本的な課題であり、ある種の神経記号のアーキテクチャを transformer に結合することが非常に有益な方法であると強く主張しています。これは興味深く、説得力のある議論だと思います。しかし、私自身はそれについて深く踏み込んでおらず、判断するには至っていません。

Altman： これは「実際には証拠が不十分だが、人々が疑いなく信じている」という考えのうちの一つだと思います。人々は、「ああ、神経記号でなければならない、ただのランダムなニューロンのつながりだけではならない」と言いますが、あなたの脳は何をしていると思いますか？内部にもある種の記号表現が存在しますが、それはニューラルネットワーク内で浮かび上がっています。なぜこれが AI の世界で起こらないと思いますか。

Thompson： つまり、一連の「定義済みの規則」が、典型的な transformer ネットワークから浮かび上がってきて、外部のルールシステムを追加したものと同じような役割を果たすことができるということですか？

Altman： もちろん可能です。

Thompson： はい。

Altman： 私たちはある意味でそれが存在する証明だと考えています。

Thompson： さらに重要なテーマについて話しましょう。私は、あなたと Anthropic の間の緊張について話したいと思います。あなたのウェブサイトには常に素晴らしいステートメントがあります。「価値観に沿った、安全を重視したプロジェクトが AGI を構築する前に我々に近づいた場合、競争を停止し、そのプロジェクトを支援し始めることを約束します。」これは素晴らしい考えです。他の人がすぐにそうするなら、自社の活動を停止して彼らを支援するということです。

Altman： それはそのように書かれていません。

Thompson： それはわかりました、「競争を停止し、協力を開始する」と書かれています。聞こえは、停止して手伝う、つまり「会社を止める」ということです。

Altman： わかりました、あなたの意味は理解しました。

Thompson： ですので、非常に協力的ですね。あなたは大規模な研究所同士が協力する必要があるとも言いました。ただし、現時点でAnthropicとの実際の関係は非常に緊張しており、敵対的にさえ見えます。最近のCROの社内メモでは、Anthropicは「恐怖、制約、および一握りのエリートがAIをコントロールすべきだ」という考えに基づいて設立されているとあります。これはどうやって進展していくのでしょうか？彼らが先に到達するか、あるいはあなたが先に到達するかにかかわらず、このような「協力」が実現する可能性はありますか？

Altman： 私は今、ある種の協力のバージョンがすでに進行中であると考えています。サイバーセキュリティの問題を中心に、すべての研究所が過去よりも頻繁に協力する必要があるようになってきました。私たちは政府と連携しています。私はすぐに他の重要な分野で協力する必要があるでしょう。

明らかにAnthropicとは異なる立場を取っており、ある意味で彼らは「私たちを嫌うこと」に会社を建てています。私たちは皆、「AIによってこの世界を破壊しないでほしい」ということに非常に敏感であり、その段階にどう進むかについて異なる意見があるかもしれません。しかし、私は彼らが最終的に正しいことをすると信じています。

Thompson： オープンソースへの移行計画について教えてください。すでにいくつかの行動を起こしているようです。あなたの会社はOpenAIと呼ばれていますが、私たちは以前にも話し合ったように、オープンソースのモデルがもたらす可能性、例えば誰もが生物兵器にアクセスできるようになる可能性などについても触れています。

Altman： ええ。

Thompson： OpenAIの将来についてオープンソースはどのような役割を果たすのでしょうか？

Altman： オープンソースは非常に重要になります。ただし、現時点で、人々が最も望んでいるのは、彼らが手に入れることができる最先端のプログラミングモデルです。それが現時点で人々に最も多くの価値をもたらすものです。そして、最大の先端モデルは、私たちがオープンソースにしても、一般の人々の手元で実行するのは非常に困難です。しかし、オープンソースは、将来的に私たちが行うことの中で重要な役割を果たすでしょう。

Thompson： Claude のコード、Claude Code の一部分が最近流出し、そこには非常に興味深いディテールが含まれています。開発者たちが彼らのデータを使って何かしらのオープンソースのモデルや他のモデルをトレーニングしようとしているのを検知した場合、彼らは積極的に偽のデータを戻します。面白くて賢明な手法ですね。では、「蒸留」と他のオープンソースのモデルがあなたの出力を使用してトレーニングするのをどのように防いでいますか？

Altman： 私たちは他の人と同様に同様の手法を取ることができます。しかし、明らかに、そしてあなたが述べた理由の一部としても前述の通り、あなたがモデルを展開する際、その思考フローが公開されていると、人々はあなたを蒸留しようとします。蒸留があまり効果的ではなくなるようにさまざまな方法を取ることができますが、この事態は必然的に発生します。逆に、「私たちのモデルは一定の品質水準を超えると、思考フローを公開しない」といったこともできます。

Thompson： ただし、その代償は、「英語での思考フローの保持」が非常に重要ですね、そうでしょう？なぜなら、前述の通り、あなたたちのアプローチはそうだからです。しかし、一部の人々はそうは考えていません。モデルにとって、「独自の機械言語」を使用したほうが思考フローが効率的である場合、どうすればよいでしょうか？それとも日常会話を使うべきでしょうか？おそらく、モデルは独自の何らかの機械言語を使用するでしょう。

Altman： その場合、あなたは「説明可能性」の点で何かを譲歩することになります。

Thompson： また、いくらかのスピードを犠牲にする可能性もあります。したがって、これは説明可能性と潜在的なスピードの間のトレードオフです。

Altman： もし事実が独自の機械言語を使用したほうが考える効率が1000倍高いことが証明された場合、市場は一部の人々をそちらに引き込んでいくでしょう。

Thompson： この考え方が真実であると示す証拠はあると思いますか？

Altman： 現時点ではありません。ただし、それが真実でないことを示す証拠もありません。

Thompson： 中国がAI研究でアメリカをすでに追い越していることについて心配していますか？

Altman： いいえ。むしろ私は彼らがインフラ整備の速度で私たちを追い越していることを心配しています。

Thompson： わかりました。残りわずかの時間です。最後の2つの質問です。以前お子さんに毎晩手紙を書いていたと言っていましたね。

アルトマン： 週に1回のメールで、毎晩ではありません。

トンプソン： 週に1回のメールで、就寝前。私自身が持っているのは、私が私の長男に話す物語の世界です。彼は今17歳で、次男は12歳です。私はこの物語の世界を約14年間語ってきました。同じキャラクターが出てきており、かなり興味深いです。AIへの不安を抱える親に対するアドバイスは何ですか？

アルトマン： 全体として、子どものことよりも親のことを心配しています。

トンプソン： 本当ですか？子どもたちは自分で対処できます。

アルトマン： コンピュータが登場したときを覚えていますが、私の両親も「これは何を意味するのか？何をもたらすのか？」と心配していました。当時、私はこれがとてもカッコいいと思いました。私は比較的幼い頃から両親よりもはるかにコンピュータを使いこなしていました。AIに長けた子供たちが何をし、何を構築し、彼らの作業手順が彼らの親（あなたは稀な例のようです）よりもはるかに優れているのを見ることは本当に驚くべきことです。

ただし、私が心配しているのは、歴史上何度もあるように、若者が年配者よりも新しい技術をより速く、よりスムーズに取り入れることです。今回は、その格差が特に明白です。

トンプソン： しかし、若者はちょうど「AIへの恐怖が最も急速に増大している」というグループです。

アルトマン： 私は若者があらゆることに対する恐れ、全体としての不満と不安が、歴史上のどんな時点よりも高いと考えています。AIはおそらく、この感情が現在最も容易に投影される対象です。社会は「若者」の問題に明らかに対処が必要です。私にはいくつかの理論がありますが、彼らの主な問題がAIであるとは思いません。

トンプソン： ですので、若者のAIへの不安は、他の何かの投影だとお考えですか？

アルトマン： これは、他の多くの不安が最も簡単に落ち着く場所だと思います。

トンプソン： では、若者には、ツールを使用し、新しいものを構築し、好奇心を持つようにとアドバイスされるべきですか？

アルトマン： それは間違いなく私のアドバイスです。さあ、社会や経済はこの新しい世界で明らかに変わらなければなりません。若者は誰よりもそれをよく理解しています。それが本当に変わるまで、彼らは常に不安を感じるかもしれませんが、私はそれが変わると思います。

Thompson： はい。毎回のエピソードでゲストに同じ最後の質問をします。もしも無限のリソースを持っているとしたら、AI に何をしてもらいたいですか？あなたは本当に無限のリソースを持っている唯一の人なので、この質問は少々公平ではありませんね。質問を変えてみますが、もしも OpenAI の外の誰かが無限のリソースを持っており、ある AI パブリックプロジェクトをサポートしたり支援したりできる場合、あなたがその人にアドバイスすることになったら、どんなことをしてもらいたいですか？

Altman： いくつかの答えが頭に浮かびました。しかし、一番上に浮かんできたのは、新しい計算パラダイムに多額の投資をすることです。ワットごとの効率が大幅に向上するタイプの投資です。

Thompson： うん。

Altman： このことは非常に興味深いです。世界は常により多くを求め続けます。あなたは一日に GPU を何台使いたいですか？

Thompson： 現在よりも多くの数。

Altman： 現在の数よりも多くの数。私は速度制限されています。兄弟、私もその状況を望んでいないし、他の人にもその状況を望んでいません。しかし、需要の波は押し寄せています。AI をより手軽に利用できるようにしていけたら、信じられないほどのことが生まれるでしょう。私は千倍のエネルギー効率の突破口を見つけたいと思っています。見つからない可能性もありますが、それが私が探求する方向です。

Thompson： 若者がAIに対して抵抗感を持つ理由の一部は環境懸念です。その点を解決できれば、多くの点で前進できると思います。

Altman： 彼らがそう言うと信じています。彼らがそう考えることも分かっています。しかし、もし私たちがゼロから1テラワットの太陽光発電所を建設し、すべてのデータセンターを太陽光で稼働させると言ったとしても、彼らは喜びません。

Thompson： それでもやるべきです。

Altman： 絶対にその通りです。

Thompson： では、大変ありがとうございました、Sam Altman。あなたは今、あなたの機械で実行されているCodexエージェントにYOLO権限を与えた人たちを管理する必要がありますね。

Altman： 新しい Codex は本当に素晴らしいですね。今、私は「それを見逃している」という焦りを感じています。

Thompson： ありがとうございます。

インタビュー動画の元リンク

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia