Anthropic CEO最新インタビュー：技術爆発、安全のレッドライン、文明の契約について
元動画タイトル：Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview
元動画出典：Bloomberg Original
原文編集：Web3 天空之城
編集者注：AnthropicのCEOであるDario氏は現在、非常に微妙な立場に立たされている。一方で世界最高のAIモデルを擁しながら、他方で米国政府の一方的な禁止令によりグローバルでのサービス停止を余儀なくされ、チーム内の非米国人でさえ利用できない状況にある。
この問題がどのように収束するかはまだ不明だが、Dario氏は引き続き努力を続けているとのことで、読者の皆様には引き続き注目していただきたい。しかし、今回の最新のEmily氏とのインタビューから、物議を醸すAIコーディング業界トップ企業の舵取り役の思考を垣間見ることができる。
現在のシリコンバレーの権力地図において、Anthropicは極めて特殊で緊張感に満ちた中心的位置を占めている。OpenAIの最強の挑戦者として、価値観の相違から「離脱」を選んだトップ研究者たちによって設立された。
CEOのDario氏がスポットライトの下でAIの指数関数的成長について語るとき、彼は稀有な、外科医のような冷静さを見せる。これは単なる技術競争ではなく、信頼、安全性、そして知性の爆発に直面した人類文明の自己定位をめぐる深い駆け引きなのである。
全文要約
今回の最新インタビューでは、AnthropicのCEOであるDario氏がAIの指数関数的成長に直面した際の心の軌跡を深く掘り下げ、OpenAI離脱の内幕、会社のビジネスモデルの選択から、AIが雇用市場、サイバーセキュリティ、地政学に与える深遠な影響までを網羅している。
CEOは、Anthropicが「長期利益信託」などのメカニズムを通じて権力を牽制する方法、そして技術的優位性を追求しながらも、「レッドライン」の設定やリスクの高いモデル（Mythosなど）のリリース延期を通じて、安全に関する価値観を実践していることを詳述している。
注：Dario氏の発言は常に東方の大国に対して友好的とは言えず、読者の皆様には各自でご判断いただきたい。
核心的見解
・AI業界は現在、「安定した指数関数的成長」の段階にあり、この成長は量的な蓄積が一定の閾値に達すると質的な爆発感を生み出す。
· 信頼はAI業界における協力の基盤であり、Anthropicは信頼できるプレイヤーが連携して業界標準を確立すべきだと主張している。
· エンタープライズ向けビジネスモデルはAIの安全に関する価値観とより親和性が高く、コンシューマー市場でよく見られる依存性や低品質なコンテンツ競争を回避できる。
· AIによる雇用喪失リスクに対して、社会は先を見越してマクロ経済政策を策定すると同時に、「同じリソースでより多くのことを成し遂げる」というプラスサムゲームを模索する必要がある。
· 軍事応用においては「人間がループ内に存在する」という原則を堅持し、大規模監視や完全自律型兵器のレッドラインを厳守しなければならない。
以下が完全なインタビューです：
指数関数的な成長のプレッシャーと体験
Emily Chang：あなたの睡眠時間はどれくらいですか？
Dario Amodei：私はもともと睡眠の質が良い方ではありません。ただ、異常なプレッシャーの中でリラックスして眠りにつく技術を学んでいる最中です。
Emily Chang：すべてが本当に速く進んでいますね。その中にいる感覚はどのようなものですか？
Dario Amodei：それは指数関数的な感覚です。例えば、あなたが相対論的速度で地球から遠ざかる宇宙船に乗っていると想像してください。特殊相対性理論の仕組みとして、あなたが眠りから覚めると、地球上ではすでに2日が経過しています。そのため、1日で2日分のことを処理しなければなりません。
そして再び眠りにつくと、加速が続いているため、地球上では3日が経過しています。次の日には4日が経過しています。その感覚がまさにこれに近いです。
Emily Chang：目が覚めた後に何が待っているか心配で不安になることはよくありますか？
Dario Amodei：私たちが対処すべき、明確で緊急な問題はすでに十分にあります。それらの問題に取り組みながら、どう準備を整えるべきかを考えています。しかし、偏執的になったり、目が覚めた後に何が待っているか心配することは有益ではないと考えています。私は歴史的にこうした高圧的な状況に対処してきた人々を研究しました。理性的に対応し、さまざまな危険の程度を同列に扱わないことを学ぶ必要があります。
この「心配していない」と「なんてこった、今日中にパニックにならなきゃ」の間を行ったり来たりする状態は、決断が未熟である証拠だと思います。本当に成熟した決断とは、この点を無視せず、なおかつ油断もできないものです。
実際、これはますますリスクが高まっていますが、外科医が手術を行うように、理性的に対処しなければなりません。あるいは、将校が軍事作戦を遂行するように、あるいは、多くの人々の決断に影響を与える立場にある者は誰でも、理性的にそれらの決断を下さなければなりません。そして、リスクを理解しつつも、基本的な冷静さを保たなければなりません。
それで、昨日息子が私のClaudeアカウントを使えるかと聞いてきたんですが、絶対にダメだと答えました。トークンが必要なんです。コンシューマー市場でもこうしたアプリケーションが増えてきています。私たちはもっとエンタープライズ向けの会社になりたいと思っていましたが、それほど力を入れていなくても、コンシューマー向けの事業が急速に成長し始めています。
Emily Chang：あなたは今、AI宇宙の中心にいますが、その感覚はいかがですか？
Dario Amodei：面白いことに、私のキャリア全体、特にAnthropicに参加してからの期間は、安定した指数関数的成長を経験してきました。
この安定した指数関数的成長の体験とは、何も起こらない、何も起こらない、何も起こらない、小さなことが起こる、そして突然、狂ったように爆発する、というものです。これがこの世界の体験です。そして、会社の規模が他の会社や世界と比較してどうかという体験でもあります。
だから、私はこのグラフを長い間見つめて、こう言いました。私たちはおそらくこの頃に、収益が最も高く、評価額も最も高いAI企業になるだろう、と。実際その通りになりました。起こりました。ですから、ある意味では驚きませんでした。グラフの曲線が非常に滑らかだったからです。
しかしもちろん、別の観点から見ると、物事が実際に起こるときには、より多くの、より豊かな詳細と色彩が見えてきます。そして、これは間違いなく驚くべきことです。
私たちは常に、普段注目している問題、すなわち、どのように優れたモデルを訓練するか？どのようにそれらを優れた製品に応用するか？どのようにすべてが安全であることを確保するか？どのように人々を助けつつ、この技術を取り巻く社会的リスクを管理するか？ということを忘れていません。これらはすべて同じ問題であり、より大きな顕微鏡で観察されているに過ぎません。
成長の背景とシリコンバレーの精神
エミリー・チャン：サンフランシスコで育った頃、あなたはどんな子どもでしたか？お父様は皮革職人、お母様は図書館で働いていたと聞いていますが、それがあなたにどのような影響を与えましたか？
ダリオ・アモデイ：当時、インターネット革命が私の周りで起きていましたが、私は全く興味がありませんでした。数学の研究や、絵を描いたり書いたりすることにしか関心がなかったんです。宇宙の探求に強い興味を持っていました。SF小説にも夢中でした。全体的に、それが当時の私の環境でした。ただ、この世界に対する強い好奇心を持っていたのだと思います。
エミリー・チャン：あなたはテクノロジーの中心地と呼ばれる場所で育ちました。そして今、そこはAIの中心地でもあります。この場所、この街には、あなたの世界観を形成した何かがあるのでしょうか？
ダリオ・アモデイ：ええ。あの「流されず、個人主義を重んじ、少しクレイジーでも構わない」という一般的な精神は確かに存在します。その多くは、おそらく私に無意識のうちに影響を与えたのだと思います。
例えば、ヨーロッパの国々や、この国の他の地域に行くと、異なる考え方をすることが抑圧されたり、変わり者扱いされたり、クレイジーなアイデアを持つことが敬遠されるという話を聞きます。
実際、私はシリコンバレーに対して多くの批判を持っていますが、良い点が一つあるとすれば、それは次のような理念を奨励していることです。たとえ全ての専門家があなたに反対しても構わない。一貫したビジョンと一貫した世界観を持っているなら、それを追求すべきであり、それが最も重要だ。もしかしたら全くうまくいかないかもしれません。
しかし、もしうまくいけば、それはロングテール効果を持ち、特定の分野で深く掘り下げ、最終的にそこに巨大な金脈を発見できるかもしれません。この精神は非常に重要だと思います。
エミリー・チャン：あなた、ダニエラ、妹さん、そして妹さんの夫であるホールデン・カルノフスキーは、2016年に同じシェアハウスに住んでいましたね。当時、あなたたちは何について議論していたのですか？
ダリオ・アモデイ：あの頃はちょうどOpen Philanthropyプロジェクトが始動したばかりで、ホールデンがその責任者でした。当時、私は生物科学者でした。ですから、発展途上国の健康や生物学研究に関するいくつかの案件を手伝っていました。つまり、私はそれらのテーマに対していくつかのアドバイスを提供していたんです。例えば、どの分野に将来性があるのか？どの分野はそれほどでもないのか？といったことです。
OpenAIを去った核心的な意見の相違
エミリー・チャン：あなたがOpenAIを去る決断をしたことは、シリコンバレーの伝説となっています。実際に何が起きたのでしょうか？様々な語り口はさておき、本質的な問題は何だったのですか？どの点で意見が分かれたのですか？
ダリオ・アモデイ：聞いてください、私ははっきりと、非常にシンプルに話します。強力なテクノロジーを構築する際には、多くの難しい問題に直面します。Anthropicも毎日それを経験しています。自分たちの下した決断が正しいのか間違っているのか、私たちにはわかりません。
ですから、安全性の問題に関しては、多くの合理的な論争が存在します。私たちは確かに彼らと何度か意見の相違がありました。しかし、それだけでは去る理由にはなりません。ここにも私と意見が合わなかった人はいます。ここでも互いに意見が分かれることはあります。
しかし、誰かを信頼できないと感じた時、その人の価値観が表明しているものと異なると感じた時、その人が誠実でないと感じた時、その人が公言している理由とは別の目的で行動していると感じた時、そして不安を覚える行動パターンや不誠実さを目にした時、それはその会社で働き続けること、その会社を信頼し続けることを難しくします。結局のところ、誰かと共通のビジョンを持てず、もはや信頼もできないのであれば、なぜ議論を続ける必要があるのでしょうか？
解決策は、それぞれが別々の道を進むことです。あなたはあなたのことをやり、彼らは彼らのことをやる。私はそれを完全に受け入れています。私たちは私たちのやり方で進み、彼らは彼らのやり方で進む。どちらが市場で勝つのか、どちらが世論の法廷で勝つのか、見守るつもりです。これらの事実は雄弁に物語っており、誰が去ったのか、なぜ去ったのかといったドラマチックな憶測よりもはるかに説得力があると思います。
知っておくべきことは、私たちはこの技術をどのように展開するかについての模範を示していると考えており、責任ある方法だと思っています。もし異論があるなら、彼らは論拠を提示すべきです。この件について多くを語る必要はないと思います。
業界の協力と信頼の再構築
Emily Chang：インドのAIサミットで、あなたとSam Altmanがステージ上で握手を拒否したように見えた瞬間がありました。その時、何が起きたのですか？
Dario Amodei：その時の状況は、そのサミットが極めて混乱した運営だったんです。私たちは全員、ぎりぎりのタイミングでステージに上がり、彼らが急に私たちの立ち位置の順番を変えました。それから写真を撮られ、全員で手をつなぐよう指示されました。こういったサミットに参加したことがある方ならお分かりでしょうが——インドに対して何か言っているわけではありません——こうした国家元首が出席する国際サミットは、どこも運営が非常に混乱しています。
Emily Chang：でも他の人はみんな手をつないでいましたよ。お願いですから。
Dario Amodei：聞いてください、どう説明すればいいのかわかりません。その時、Narendra Modiが上にいて、突然全員に手をつなぐよう指示したんです。
Emily Chang：わかりました、わかりました。
ナレーション：ご覧の通り、SamとElonは互いに訴訟を起こしています。どうやらあなたはSamが好きではないようですね。
Emily Chang：もし世界で最も重要な技術の開発者たちがステージ上で手をつなぐことすらできないなら、どうして生存リスクの問題で協力してくれると信じられるのでしょうか？
Dario Amodei：それでは、これをお伝えしたいと思います。この技術を構築している人々の間には、その資質と信頼性に大きな差があります。これはつまり、異なる人々がいて、誰も互いを信頼していないという考えは、正しくないと思います。
私はGeminiモデルを構築しているDemis Hassabisを知っています。これらのモデルはClaudeモデルの競合です。私は彼らを15年間知っています。私たちはこれまで多くの問題で協力してきました。Googleから計算リソースを購入しています。安全面のアイデアについて頻繁に意見交換しています。
つまり、私の見解としては、まず、一部の参加者は他の参加者よりも信頼に値するということです。そして、Anthropic以外にも私が信頼する参加者がいて、彼らは信頼できると考えています。起こるべきことは、信頼できる参加者が団結して、信頼できない参加者に対処することです。そうすることで、参加者は同じ基準を採用せざるを得なくなります。
豊富な経験を通じて、自発的に正しいことをしない人々がいることを理解しました。しかし、業界の大多数が正しいことをしていれば、業界の他の人々には流れに従う以外の選択肢はないと思います。これは、他者を動機づけるポジティブなバージョンのようなものです。
これは、Demisと私が互いに刺激し合っているのと同じです。彼はAlphaFoldをやっています。私たちも生物学の分野で何かをしようとしていて、説明可能性に取り組んでいます。彼らは説明可能性の研究を始めました。これは競争ですらありません。
単に、各企業がクールなことをしているからです。そして他の企業は、それがクールだと感じます。私たちも試してみて、そこから何か新しいものを生み出せるかどうか見てみたい。これがトップレベルの競争における「ニンジン」の側面です。そして「ムチ」の側面、あるいは暗黙の「ムチ」とは、これらの人々が正しいことをしていると気づくことです。他の人々が正しいことをしなければ、見栄えが悪くなります。
私たちはよくこのような行動を目にします。彼らは渋々正しいことをしながらも、別のことをしているふりをして、私たちに何か悪質な意図があるとほのめかそうとします。これは予想通りです。しかし、これこそが業界を統合し、業界の協力を促進する方法だと思います。
ビジネスモデル：エンタープライズと価値観の一致
Emily Chang：以前、他の人々は面白くて派手な消費者向けアプリケーションに注力していました。一方、あなたはコーディングとエンタープライズ分野に賭け、Claude Codeは大成功を収め、Claude Co-workも大成功を収めました。なぜその賭けに出たのですか？それは価値観に基づく決断でしたか、それともビジネスに基づく決断でしたか？
Dario Amodei：Anthropicを設立したとき、最も根本的なこと、つまり常に重要だったことは、私たちの内なる願望でした。私たちは正しい方法でこれを成し遂げたいと考えていました。しかし、自問しなければなりません。これらのモデルの非常に高額な作成コストを賄うために、会社は適切なビジネスモデルを持つ必要があります。では、ビジネスモデルが価値観の実現を妨げるのでしょうか？
この問題は常に存在します。しかし、他社で働いた経験や他社を観察して学んだことの一つは、自分が選んだビジネスモデルが自身の価値観と根本的に衝突する場合、困難な状況に陥るということです。価値観を裏切るか、時代に取り残されるかのどちらかになります。
最終的には板挟みのジレンマに陥ります。回避策はあるものの、それでも非常に厄介な状況です。自身の価値観と両立するビジネスモデルを選ぶ方がはるかに優れています。
そこで私たちはこの問題を考える際、ソーシャルメディアやコンシューマー向けの世界では、相互作用、さらには依存症を促進しているように見えると認識しました。AIビデオモデルから見られるような粗悪なコンテンツの背後には、広告収入によるインセンティブが原動力となり、あなたの注意時間を最大化するというロジックがあります。
しかし、エンタープライズ領域を見てみると、私たちの本来の意図は、これらのモデルが人々にとって有益であることです。AIで実現できるポジティブなことを考えると、ネガティブな影響について注意を促すこともありますが、根本的にはポジティブな側面がネガティブな側面を上回ると考えています。そのポジティブな応用の多くは、基本的にエンタープライズアプリケーションの範疇に収まります。
私たちはAIを活用して、これまで治療できなかった病気を治したいと考えており、そのためにはバイオテクノロジー企業、製薬会社、学術研究機関との協力が必要です。これらはすべてエンタープライズです。また、AIを活用してエネルギーをより安価で効率的にしたいと考えています。これらもすべてエンタープライズアプリケーションに該当します。
AIを教育分野の支援に活用したいと考えています。その大部分はエンタープライズレベルの応用です。AIを活用して健康や発展途上国の問題解決に取り組みたいと考えています。これらは非営利組織ですが、本質的にはエンタープライズの範疇です。経済成長を促進したいと考えています。これも基本的にエンタープライズレベルの領域です。
さらに、もう一つの要素として、エンタープライズは信頼と長期的な関係を非常に重視するのに対し、コンシューマー向けアプリケーションは時に誇大広告的な側面があります。エンタープライズレベルでは、ある企業と長年にわたって協力し、約束を守り合い、根本的に信頼し合うというパートナーシップを築くことが重要です。
したがって、これは私たちがこれらのモデルをポジティブかつ安全な方法で展開するという目標と非常に親和性が高いのです。そのため、私たちの価値観と高度に一致するこのビジネスモデルを持つことは、私たちにとって有利に働くと考えています。
時には衝突が存在しないわけではなく、難しい選択を迫られないわけでもありません。しかし、そうした選択の数は、他の状況に比べてはるかに少ないと私は考えています。
競争上の堀と「SaaSの終焉」
エミリー・チャン：開発者は午後一発でClaudeからGPTやGeminiに切り替えられます。この業界で、本当に長期的なリーダーシップを維持することは可能なのでしょうか？また、あなたが構築したものを、本気の競合他社が複製するのにどれくらいの時間がかかると思いますか？
ダリオ・アモデイ：モデルの品質こそが最も重要なことです。例えば、私たちは現在モデルの品質で大きくリードしています。ある程度の慣性は存在しますが、私はそれに決して依存していません。これまで一度も、あるいはAnthropicとしても、あの「製品の粘着性が高く、ユーザーは切り替えない」という考えに依存したことはありません。
私は、やはりより良いモデルを持つべきだと思います。より良い製品を持つべきです。そして、成長率に全く転換点が見られず、むしろ上昇しているように見えます。少なくともこのインタビューを収録している時点ではそうです。ですから、これが最も重要なことだと考えています。
エミリー・チャン：Claude Co-Workの発表後まもなく、2,850億ドルの市場価値が一夜で蒸発し、トレーダーたちはこれをSaaSの終焉（SaaSpocalypse）と呼びました。AIがこのペースで改善し続けるなら、従来のソフトウェアはどれだけ、そしてどれだけの速さで取って代わられるのでしょうか？
ダリオ・アモデイ：これは、事前に完璧に予測するのが非常に難しい類の問題です。もし完璧に予測できたなら、人々はとっくにそれを実行し、市場で巨万の富を築き、常に正しかったでしょう。
ですから、誰も正確に何が起こるかは分かりませんが、いくつか指摘できる点があります。これら全ての従来型ソフトウェア企業には、いくつかの堀（モート）があります。起こるだろうと思うのは、その堀の一部は消え去るが、別のものは残るということです。ソフトウェアを迅速に記述する能力は、間違いなく消え去ると思います。もしあなたの堀が「誰も書けないような複雑なソフトウェアを私たちは書いている」というものなら、幸運を祈ります。それを守り抜くことはできないでしょう。
しかし、人々は顧客との関係を持っています。人々はその分野がどのように機能するかに関する専門知識を持っています。人々は独自のドメイン知識を持っています。ですから、これら全ての人々への私のアドバイスは明らかに、自己満足に陥らないことです。それを無視しないことです。あなたの全ての堀をリストアップし、そのうちのいくつかは消え去り、別のものは制約要因として相対的により重要になることを明確に認識することです。そして、新たな堀が現れる可能性もあります。
私は、機敏に対応できる人々、つまり依然として存在する堀（モート）や新たな堀を活用できる人々は、うまくやっていけると思います。一方で、過去に通用した方法が将来もずっと通用すると自己満足している人々は、自分自身を欺いているだけです。彼らは良い時代を迎えられないでしょう。これが私のアドバイスです。
そして、結局のところ、SaaSをどう定義するか、何をSaaSと見なさないかにもよりますが、私はソフトウェア業界は縮小するどころか、むしろ拡大すると推測しています。ただし、その中で大きな敗者が出ることもあるでしょう。
Emily Chang：説明してください。
Dario Amodei：単純にパイがどんどん大きくなっていると考えています。例えば、AIの登場によって、このパイはさらに拡大しています。既存の老舗企業は相対的に小さくなる可能性があります。そのうちのいくつかは価値が下がるかもしれません。適切な方法で適応できなければ、中には倒産する企業もあるでしょう。
しかし、成長速度が非常に速い場合、こうした現象はよく見られます。AIの可能性が10倍に拡大すれば、既存の業界が1.5倍に成長するのは容易であり、単に全体のパイほどの成長率には達しないだけです。ですから、こうした状況は起こり得ると考えています。
これは、大きな敗者が現れないという意味ではありません。適応できず、現実から目を背け、将来のトレンドを見極められず、自身の堀を認識できない人々は、非常に厳しい状況に直面するでしょう。
計算能力、資金調達、そしてパートナー
Emily Chang：あなたの最大の支援者は、Amazon、Google、Microsoft、NVIDIAといった企業です。これらの企業にはそれぞれのアジェンダがあります。彼らはパートナーであると同時に競合でもあります。あなた方は資金調達に関連した巨大なビジネスマイルストーンを抱えています。実際に主導権を握っているのは誰なのでしょうか？
Dario Amodei：私たちは、何度も率直に本音を述べてきたことがあります。私は一貫して中国へのチップ輸出規制を明確に主張してきました。なぜなら、中国がAIの能力で先行することは、米国および世界的なプロセスにとって非常に悪い結果をもたらすと考えるからです。そして、一部のチップメーカーは明らかにこの見解に同意していません。しかし、それでも私が意見を述べることを妨げるものではありません。
たとえ私たちがさらに多くの協力契約を結んだ後でも、私は今もこの点を強調しています。彼らが理解しているのは、私たちが常に彼らと協力し続けているということです。私たちはこれまでも良いパートナーであり、共に仕事ができる存在です。彼らが私たちにこれらの発言を控えてほしいと思っているのは確かですが、これらは私が確信している内容です。
どうするつもりですか？結局彼らも合意に達するでしょう。彼らはこれらの取引から私たちと同等の利益を得ています。見てください、私たちは皆大人です。あることでは協力しつつ、別のことでは意見が分かれることもあります。
エミリー・チャン：ブルームバーグの報道によると、あなた方の評価額はOpenAIよりも高いそうです。私たちが話しているのは、設立から5年のスタートアップで、評価額が1兆ドル近くに達しています。これをどう理解しますか？その数字について、そしてあなたが計算リソースにおいてより規律正しく、より速い収益化の道筋を持っているなら、なぜこれほど多くの資金が必要なのですか？
ダリオ・アモデイ：計算リソースの拡大は非常に速いペースで進んでおり、ビジネスの基本は良好に見えるのは事実ですが、1年後には現在の3倍から4倍の計算リソース規模になる可能性があります——正確な数字は出しませんが、この種の計算リソースの成長は非常に急速です。
収益の成長がこれらの規模に達し、それを超えると信じる十分な理由があります。そして資金調達は、この不確実性の範囲に対応するための緩衝手段です。
ですから、これは完全に合理的な行動です。これによる事業への株式希薄化は非常に小さく、論理的にはこれらは全く別物です。実際、それは反対のものと両立可能であり、ビジネスの基本に問題があることを意味するわけではありません。
エミリー・チャン：サーバーの過負荷、信頼性の問題、トークンが尽きたという苦情があると報じられています。あなたは他の企業がインフラ構築に全力を注いでいると言いました。本当に必要なものを手に入れているのですか、それとも追いつこうとしているのですか？
ダリオ・アモデイ：計算能力について言えば、いわゆるマーケティング上の計算能力というものがあります。つまり、私の見解では、数ヶ月以上という期間を経て、私たちは大量の計算能力を獲得できるのです。ここで特筆すべきは、合理的な基準で見て、私たちが購入する計算能力が少なすぎるとは思いません。
当初、私たちはハッシュレートが毎年10倍に増加する計画を立てていました。
年間10倍の成長が私たちの想定でした。しかし、現在見られている状況はそれとは異なります。2026年第1四半期、私たちの四半期収益は3倍以上に増加しました。これは年率換算ではなく、単一四半期のデータです。四半期内で3倍の成長、もちろん3の4乗は年間で80倍の成長を意味します。
私たちは年間80倍の成長を予想していませんでした。年間80倍の成長を目標に計画を立てるのは非合理的です。なぜなら、最終的に10倍の成長しか達成できなかった場合、8倍も不足することになるからです。ですから、私たちは局所的に極端な、ハッシュレート爆発の段階にあります。この状況は長続きしません。
もしこの状況が続けば、年末には地球上のどの企業も到達できない収益数字を手にすることになります。私はそれが起こるとは思いません。それは単に、持続不可能だからです。
しかし、こうした短期的な期間を経験するかもしれません。その時には、これまで想像したどの成長速度よりもはるかに速いと驚嘆するでしょう。ただ、すでにGoogleとのハッシュレート契約やAmazonとの契約をご覧いただいています。私たちは今後もさらに多くのことを行うことができ、また行うつもりです。
例えば、市場は流動的です。ハッシュレートを非常に効率的に活用でき、需要があれば、必要なハッシュレートを獲得できます。おそらく1～2ヶ月あれば十分です。
トップを目指す競争と企業文化
Emily Chang：最大のライバルを追い抜いた気分はいかがですか？
Dario Amodei：聞いてください、私たちの前にはまだ多くの困難な課題があります。私たちは「トップを目指す競争」という理念を持っており、他の企業を巻き込んで共に進もうとしています。私たちはすでに、実際に彼らを巻き込んだと確信しています。時には彼らがそれを認めないこともあります。
時には私たちを攻撃しながらも、同時に模倣していることもありますが、この巻き込み効果は非常に価値があります。
したがって、商業的にもモデル的にも、業界のリーダー企業になることの価値は、競争に勝つために相手を打ち負かすことではありません。その意義は、エコシステム全体を共に発展させるリーダーシップを発揮できることにあります。私たちは今後、この点でさらに多くのことを成し遂げたいと考えています。
エミリー・チャン：でも、やっぱり勝つのは気持ちいいですよね。
ダリオ・アモデイ：そうですね、私たちは常に成功を目指しています。決して失敗したいわけではありません。私はこの技術の進展を止めるべきだとか、構築すべきでないとは考えていません。私たちは自由企業制度の中で活動しており、それ自体に問題はありません。重要なのはモデルがもたらすリスクを軽減することで、常にそのバランスを取ることが求められます。
エミリー・チャン：Anthropicの歴史の大半で、あなた方は劣勢に立たされてきました。何も持っていない時ほど、道徳的な高みに立つのは簡単です。この規模で、初心を保つのはどれほど難しいですか？
ダリオ・アモデイ：私はこの問題について多くの時間を費やして考えてきました。
会社が拡大するにつれ、あらゆる規模の段階で警戒を怠っていません。成長の各段階で新たな課題が生じます。企業は新たな形でその特性を失う可能性があります。それはビジネス面での野心であれ、中核的な価値観であれ同様です。
私はその両方を懸念しています。なぜなら、それらは相互に作用すると考えているからです。
実際、優れたモデルを構築できることこそが、価値観を効果的に実践する鍵だと確信しています。会社が成長し拡大するにつれ、多くの落とし穴が存在します。失敗の可能性は多岐にわたります。それは私や共同創業者、経営陣の価値観が変わったからではなく、会社の構成が急速に変化するからです。
そのため、私は時間の半分をAnthropicの文化やその運営方法について社内で話し合うことに費やしています。急成長する中で、大規模テック企業から多くの人材を採用することになります。
Anthropicのやり方を伝えなければ、彼らは単に自分たちが唯一知っている方法、つまり以前の会社の運営スタイルをそのまま繰り返すだけです。
つまり、これは絶え間ない闘いであり、継続的な挑戦でもあります。
まるで、私とDanielaにとって、おそらく最も重要な最優先事項は、これをどう維持するかを見極めることです。なぜなら、長期的に見て、これこそが私たちの核心だと気づいたからです。
研究開発の効率と科学的進歩
Emily Chang：皆さんの製品の反復速度は驚くほど速いですね。リリースする製品の数とスピードが信じられないほどです。どうやってそれを実現しているのですか？
Dario Amodei：2点お話しします。1点目は、私たちは統一された企業です。統一された企業文化を持っています。規模を拡大しながらも、非常に高い効率を維持できていると思います。全員が依然として同じ目標に向かっており、これは文化と組織の統一性を示しています。これが最も重要な要素だと考えています。
2点目の要素としては、Claudeそのものだと言いたいです。現在、私たちはClaudeを活用して支援を得ています。モデルの開発、モデル効率の向上、製品の迅速な開発に利用しています。そのためには、さまざまな新しい実践方法を開発する必要があります。この分野ではまだ初心者ですが、すでに顕著な加速効果が現れており、その加速はますます信頼性を増しています。これが私が指摘する2つの要素です。
Emily Chang：これまで見た中でAIが行った最も驚くべきことを教えていただけますか？
Dario Amodei：私が見た中で最も驚くべきことは、主に生物学と医学の分野で起きています。多くの事例を見てきましたが、実際にDanielaのケースも含めて、Claudeが多くの一流医師が見逃した医療問題を診断したことがあります。生物学の分野では、これらのモデルが医薬品設計や計算化学などのタスクで驚くべき成果を上げ始めています。かつて生物学者だった私としては、これらの成果を見て、これは本当に難しいと感じずにはいられません。
これらのタスクを達成するには、膨大な専門訓練が必要です。そしてClaudeはその分野でますます優れた成果を上げています。これは私たちが大きな利益を得られる分野だと考えています。これがポジティブな側面であり、私たちはこれらの極めて大きな恩恵を得ることになります。生活はより良くなるでしょう。人間の体験の質も向上するでしょう。
エミリー・チャン： 一世紀分の科学の進歩。
ダリオ・アモデイ： 一世紀分の科学の進歩、そして人間の体験レベルでの一世紀分の進歩です。例えば、1900年に遡ってみてください。1900年に私たちが直面していたあらゆる問題、人々が早すぎる死を迎えた原因、彼らが耐えなければならなかった苦しみ、そして今日私たちがもはや直面する必要のないあらゆる物質的欠乏を考えてみてください。
そして、次のさらに100年を想像してみてください。私は、この一世紀分の科学と医学の進歩を心から信じています。今の難局を乗り越えられれば――私たちは乗り越えられると信じています。私はますます楽観的になっています。私たちは今よりもはるかに優れた世界を手にするでしょう。
執筆、思考、そしてAI支援
エミリー・チャン： あなたがどれほど執筆を愛しているか知っています。あなたは記事を書くことで有名です。Claudeを執筆の補助に使っていますか？
ダリオ・アモデイ： 使っています。ただ、自分独自のスタイルがあり、それにこだわりがあるので、Claudeが書いたテキストをそのまま採用するところまではいっていません。しかし、基本的にはClaudeをブレインストーミングの補助として使い、テーマを整理したり、参考にできる内容を提供してもらったりしています。
つまり、補助的な役割です。Claudeが私よりも優れた作品を書けるようになるまで、あとどれくらいの距離があるのかわかりません。まだその段階には達していませんが、その日は必ず来ると思います。
エミリー・チャン： 私も執筆が大好きです。執筆は思考を整理する助けになると感じています。そこには大量の批判的思考が含まれています。もしClaudeに代行させてしまったら、私たちはその能力を失ってしまうのでしょうか？
ダリオ・アモデイ： その点については少し懸念しています。実際、それが私が自分で執筆を続けている半分の理由でもあります。これは外部の読者にとっても確かに当てはまります。多くの人が私の記事を読んでくれていますが、執筆は同時に、自分の考えを整理し、次に何をすべきかを明確にするためであり、また私と他者との間で共通の参照点を築くためでもあります。
私たちはまだ、これらの利点を維持しながらAIを活用する方法を模索している段階だと思います。私が現在行っているのは、例えばClaudeを研究に使ったり、自分の考えを整理するためにClaudeを活用したりすることです。
もしAIに全てを任せて、例えばAIリスクに関する記事を書かせるとしたら、まず私自身の個人的な見解を反映できませんし、さらに言えば、執筆によって得られる利点も失われてしまいます。モデルの性能が向上するにつれて、将来的にはこれらの利点を維持しながら、より直接的に執筆に活用できる方法が何らかの形で生まれるでしょうが、それは微妙なプロセスになるでしょう。状況は単一ではなく、今後しばらくの間、徐々に模索していく必要があります。
私はGDPの高い成長と高い失業率が共存する、非常に異常な組み合わせが訪れる可能性があると考えています。少なくとも不完全雇用や低賃金の仕事が大量に存在し、深刻な不平等が生じるでしょう。
失業リスク、生産性とマクロ政策
Emily Chang：あなたは失業問題について非常に率直に発言してきました。AIは今後1～5年以内に、エントリーレベルのホワイトカラー職の半数を淘汰する可能性があると。それは昨年の発言です。AIの進化は驚くべき速さです。今でも50％なのでしょうか？それとももっと高い割合ですか？
Dario Amodei：私は常に言ってきたのですが、元の映像クリップを振り返ると、いつもあの3秒間だけが切り取られて文脈を無視されています。実際の私の真の主張は、未来に何が起こるかは分からないが、これが示すのは、状況が引き起こす可能性のある激変が一桁の規模に達するということです。
また、私は常に取るべき対策についても話してきました。トークン税や、企業と協力して人員配置を調整することについても言及しました。再訓練プログラムにはやや懐疑的ですが、それらをマクロ経済政策の考慮に組み込むべきです。
最初から、私が話してきたのは常に解決策です。しかし、人間の心理には、あの3秒間の終末論的な内容だけを切り取る傾向があるようです。ですから、私が伝えたいメッセージは決して終末が来るということではありません。私が言いたいのは、これは予見し、懸念すべきことであり、前向きな姿勢で対応する必要があるということです。私は完全に確信しているわけではありませんが、依然としてかなり懸念しています。その懸念の度合いは変わりません。
現在、AIが人々の生産性を向上させているのを目の当たりにしていますが、これは通常の初期成長段階に過ぎません。産業革命期を振り返ると、私が『Adolescence of Technology』で述べたように、仕事の90%を自動化するのは良いことです。
残り10%の仕事に従事する人々の生産性は、10倍のレバレッジ効果を得て10倍に向上します。しかし、最終的にはそれが100%に近づきます。そうなると、付随する問題として、彼らに他の仕事を見つけさせなければなりません。
長期的な発展については、まだ確信が持てません。実際、これについては不確かだと感じています。しかし、異なるタイプの適応が存在することは確かだと考えています。例えば、Anthropic社内のソフトウェアエンジニアについて話すと、現在この移行期を経験しており、AIがすべてまたはほぼすべてのコードを書いているものの、AIは確かにソフトウェアエンジニアの効率を高めています。
それでもなお、人々の効率は向上しています。しかしすでに兆候が見え始めており、一部の人にとっては効率が向上せず、その場合にはAIに直接仕事を任せた方が良い結果が得られる可能性があります。
これが問題の一面です。もう一方の面は、どの分野で需要を増やす必要があるかです。これをフロンティアデプロイメントエンジニア、あるいは応用AIソリューションアーキテクトと呼びますが、彼らの仕事は技術開発と顧客コミュニケーションの両方を兼ね備えています。現在、このような人材への需要は非常に大きく、顧客基盤が広がり、急速な拡大期にあるからです。
では、これは純粋なソフトウェアエンジニアリングの仕事に従事するすべての人に適しているのでしょうか？完璧なマッチングではありません。一対一の対応関係ではありません。これにより、将来的に大きな混乱が生じる一方で、物事は調整されていくことが分かります。どちらが勝つのでしょうか？私には分かりません。
しかし、警告を発しなければならないのは、これこそが私たちの対応方法だからです。これが、人間自身のレベルでも、世界のマクロ経済レベルでも、政策を策定する根拠となります。私たちは、よく考え抜かれた見解を提示したいと考えています。実現不可能だったり、約束を果たせないと思われるような約束はしたくありません。十分に論証されていない発言は避けたいのです。これらの問題について慎重に検討し、実行可能な対策を模索したいと考えています。
Emily Chang：あなたは、販売や金融などの分野で潜在的な雇用喪失を示すグラフを提示しました。どの仕事が消え、誰が取って代わられ、どのような新しい仕事が生まれるのでしょうか？
ダリオ・アモデイ：実際のところ、誰にも確かなことは言えません。経済は予測不可能であり、株式市場と同じで、分散型のプロセスだからです。人々が将来も引き続き遂行できる仕事の部分が具体的に何なのかを、事前に正確に知ることはできません。
しかし、広い意味で言えるのは、銀行、金融、その他あらゆる業界において、初級レベルのホワイトカラー業務が存在する分野では、AIはまず人々の作業効率を向上させる大きな可能性を秘めていますが、その後、AIは人間に代わって業務全体を完全に代替する能力を持つようになるということです。
次に考えるべきは、人々は一体何ができるのかということです。これについては事前に計画を立てる必要があると思います。私たちは企業の顧客と話し合う際、すでにこの取り組みを始めています。彼らが直面している選択肢が見えています。彼らが直面する選択肢とは、コストを削減すべきかどうかです。
これは通常、従業員を減らすことを意味し、基本的にはより少ないリソースで同じことを行うか、あるいはリソースの総量を変えずにより多くのことを行うべきか、ということです。機会があれば、私たちは常に同じリソースでより多くのことを行うよう彼らを促そうとしています。なぜなら、それは基本的に同じ人数、あるいはそれ以上の人数を雇用し、ただ新しい仕事に従事させることを意味し、それによって彼らがプラスサムゲームを実現できるからです。
現在私たちが有利な状況にあるのは、パイが大幅に拡大するということです。パイが大幅に拡大するからこそ、人々が参入できる新しい分野が現れる可能性が非常に高く、問題はその機会を十分に早く見つけられるかどうかに過ぎません。今回の破壊的変化の規模は非常に大きくなります。それが私が人々に注意を促している点ですが、このマッチングの問題を解決しなければなりません。
エミリー・チャン：では、例えば5年後にあなたが目覚めた時、この国はどのような姿になっているのでしょうか？これらの人々は何をしているのでしょうか？なぜなら、失業率がそのレベルに達した場合、それは革命の始まりの前兆ではないでしょうか？
ダリオ・アモデイ：まさにそれが私たちが防ぎたい結果であり、絶対にそうした事態は避けなければなりません。
いくつかの突破口があると思います。これらは保証されたものではなく、確かなことは言えませんが、物理的な世界も存在します。例えば物理的な世界に存在するものがあり、ロボット革命も進行中ですが、それはAI分野で起きていることよりもはるかに遅いスピードです。人々は常にデータセンターの建設について話しますが、あらゆる種類の情報を処理することが格段に容易になると、制約要因は物理的な世界のものになる可能性があります。
したがって、物理世界でより多くの人々が製造、構築、生産を行う必要があります。
人間中心のものはすべて、大きな出来事になると考えています。AIが医師が見逃した問題を発見したという話を何度も聞き、嬉しく思いますが、特に重要な事項を扱う際には、人々はやはり他の人間とコミュニケーションを取りたいのです。たとえAIがより優れたカスタマーサービスを提供できたとしても、人々、あるいは少なくとも一部の人々は、人間との対話を望んでいます。
ですから、こうした人間関係を重視する仕事は重要になると考えています。また、人間はAIを導くために何らかの努力をするでしょう。ある程度、それは誰かの価値観や意図に沿わなければなりません。そのため、この分野には何らかの役割が存在すると思いますが、その役割が薄いのか厚いのかはわかりません。それは難しい問題だと思います。
「終末マーケティング」の非難に反論
Emily Chang：すでに多くの反対意見が出ています。あなたは人々に警告しようとしているとおっしゃいましたが、Jensen Huang氏はあなたがタスクと仕事の概念を混同していると述べています。他の人々は、これはAnthropicに有利な「終末マーケティング」に過ぎないと言っています。ですから、この点を明確にし、断固として反論したいと思います。
Dario Amodei：失業リスクの全体的な状況について、いくつか考えがあります。つまり、まだこれらの考えを完全に練り上げてはいません。正確性を確保したいからです。しかし、Anthropicは多くの提案を行ってきました。経済補助金を設立したこともあります。経済指数もあります。私は、税金やマクロ経済政策を通じてこれらのリスクに対処する可能性のある方法について話しています。新しい仕事が何であるかについてもです。
テクノロジーの初期段階において、私はタスクと仕事の違い、なぜ今回が過去と異なるのかについて、約5ページにわたって詳しく説明し、民間の慈善活動から政府の行動まで、私たちができる6つのことを列挙しました。問題についても、解決策についても話しました。
しかし、ソーシャルメディアは大嫌いです。カテゴリーとして大嫌いです。人々は1年前の3秒のクリップだけを切り取り、実際に記事を読んだりはしません。あるいは、ソーシャルメディアの特性を利用しているのです。私は記事の中でこれらのリスクについて非常に厳密に検討してきました。
これを単なる安っぽいマーケティングだと思うこと自体が、安っぽいマーケティングだ。それは怠慢だ。真剣な知的作業と向き合うことを放棄している。これも問題の一部だと思う。繰り返しになるが、これはシリコンバレーの悪しき病の一部だと考えている。この業界は、3秒のソーシャルメディアの世界に閉じ込められてしまっている。
だから人々はこうしたコンテンツにしか反応しない。あるいは、こうしたコンテンツにだけ反応すればいいと思い込んでいる。繰り返すが、これは非常に危険であり、私たちは成熟した対話を行うことができていない。
その代わりに、人々はただ怠惰にこの3秒の断片を見て、こう言うのだ。ああ、これがダリオの言っていたことか。あまりにも馬鹿げている。あまりにも真剣味がない。誰かがこんなことを言うたびに、その人に対する私の評価は下がる。
国家安全保障と軍事AIのレッドライン
ナレーション：世界をリードするAI企業の一つが、軍事作戦を含むアメリカの国家安全保障の複数の側面に深く関与している。Anthropicとペンタゴンによる、AIの軍事的安全対策を巡る対立が激化している。
エミリー・チャン：あなたはカリフォルニア工科大学時代から長年にわたり反戦の立場を取ってきました。しかし、あなたは国防総省と契約を結び、米国の機密ネットワーク上で運用する最初のAI企業の一つです。戦争を遂行するために。説明してください。
ダリオ・アモデイ：わかりました。言いたいのは、世界は常に変化しているということです。このテクノロジーに対する私の見解として、懸念しているのは、私たちは復活した権威主義的なブロックに直面しており、彼らは非常に攻撃的で、私たちは自らを守らなければならないということです。
これは私が一貫して信じてきたことであり、今も変わらない見解です。そのため、二つの政権を通じて、すべての政策に同意しているわけではないかもしれませんが、私たちがこれを広く支持している理由はここにあります。
だからこそ、私たちは彼らと協力しているのです。もちろん、金銭のためにそうしているわけではありません。これは非常に面倒なことで、法的な争いを別にしても、政府のネットワークに展開するには、報酬はわずかでありながら、多大な労力がかかります。つまり、私たちは使命感からこれを行っているのです。しかし同様に、懸念からこの仕事に携わっている以上、そのテクノロジーの使用には制限が設けられなければなりません。
[私は技術の発展段階について話す際、次のような見解を述べてきました。私たちはあらゆる面でこの技術を活用すべきだが、自分たちの価値観を損なう方法は除く、と。そして、私たちが引いた大規模監視や完全自律型兵器といったレッドラインこそ、私が価値観を損なうと考えるものです。
もしこれらの手段を取れば、たとえ勝利しても意味がありません。これが私が見ているバランスポイントであり、私たちの立場でもあります。また、これがなぜ私たちが最初に国防総省（Department of War）と協力した企業の一つでありながら、他の企業が特定の行動を取ることをいとわない場合でも、私たちは取るべき行動と取らざるべき行動を選別している理由でもあります。
私は、立場を選び、それを貫くべきだと考えます。企業の立場が揺れ動く——最初は政府との協力を拒否すると宣言しながら、突然政府のあらゆる要求を全面的に受け入れる——というやり方は、私には理解できません。あなたは自分の原則を選び、それを守るべきです。
Emily Chang：あなたは2024年からPalantirと協力していますね。
Dario Amodei：その通りです。
Emily Chang：彼らの技術はICEやガザの警察部門で使用されています。Claudeは他の方法で監視に利用されていますか？
Dario Amodei：私たちはPalantirを通じて、また他の経路を通じても、ICEとは一切協力していません。CBPとも協力していません。ガザで事業を行っているとは思いません。私たちは、自分たちが同意できる範囲に協力を厳格に限定しています。
Emily Chang：つまり、あなたはレッドラインを引き、大統領は連邦政府との協力を禁止し、国防総省はあなたをサプライチェーンリスクと指定し、OpenAIはあなたが断った契約を獲得したわけです。この戦いに勝つとは、実際にはどのような姿なのでしょうか？
Dario Amodei：私は、一民間企業がこの戦いに勝つとは思いません。これはそもそも戦いではありません。Anthropicは勝とうとしているわけでも、勝ち負けを考えているわけでもありません。これはむしろ、政府がAIを正しく使用する方法についての議論です。AIは新興技術です。私たちはまだ、それがどの分野で信頼でき、どの分野で信頼できないかを理解していません。また、それがどのように私たちの価値観を促進し、あるいは損なうのかも理解していません。
したがって、私が重要だと考えることの一つは、私たちが良いユースケースと考えるもの——率直に言って、ほとんどのユースケースは良いものです——そして私たちが懸念するユースケースに対して、先例を確立することです。先ほど述べたように、契約が果たせる役割には限界があることがすでに分かっています。他の人があなたと同じ基準を尊重しない契約に署名する可能性があるからです。
しかし、それが果たした役割は、この問題に対する認識を高めることでした。現在、議会では真剣な超党派の協力が行われており、私たちが懸念するいくつかの事項を禁止し、防御策を設けようとしています。繰り返しますが、これを争いと見なしたくはありませんが、ある意味で、この技術を適切に使用する方法について、我が国がより慎重に考えるよう促す上で成果を上げています。
価値観と軍事倫理
Emily Chang：Anthropic を運営しているのはイデオロギーに狂った人物であり、彼が唯一の決定権を持つべきではありません。私が関心を持っているのは、より広範な AI の問題です。あなたは、イデオロギーに狂った人物、あるいは左翼の狂人の集団と呼ばれても構いませんか？
Dario Amodei：私はこれまでにもっとひどい言葉で罵られてきました。人々は私や Anthropic を好きなように呼べばいいのです。本当に重要なのは二つのことです：企業として成功を収めること、そして、私たちの価値観を守り続けることです。実際、ある意味で私の生活は非常に楽です。なぜなら、その二つだけを追求するとき、それは本当にシンプルだからです。そうでしょう？まるで、自分の立場が常に明確であるかのように。
Emily Chang：ある米国当局者は、LLM の助けを借りて、米軍が毎日の攻撃目標数を 1,000 から 5,000 に増やしたと述べました。これは Claude がより速く、より多くの人を殺すのに役立つことを意味します。あなたはこれに安心していますか？
Dario Amodei：ここには二つのことがあると思います。まず第一に、米国が軍事面で効率を向上させる能力です。私はこの能力を支持します。この能力が強いからといって戦争を引き起こすとは思えません。むしろ、戦争を抑止する効果があると考えます。基本的にあなたは、この国を信じるかどうか、この国が世界の舞台で影響力の弱い主体ではなく、より強力な主体となることを望むかどうかを問うているのです。私はそれを望みます。私は愛国者です。
もう一つ別の問題があります。それは、米国政府が関与する特定の政策について、私が支持するかしないかという点です。
政府が関与する政策について、明らかに私は一部を支持し、一部を支持しません。それは私が決めることではありません。もし私たちが技術を提供し、国防総省がその点を指摘し、実際に私たちが彼らの意見に同意したとしても、私たちが技術を提供したからといって、どの軍事作戦を実行してよいか、あるいは実行してはいけないかを決める権限は私たちにはありません。
今、個人的にはある軍事作戦には正当性があると考え、別の作戦は悪いアイデアだと思うかもしれませんが、私たちはその技術の有用性を否定するつもりはありません。
政策決定は軍事決定者に委ねなければなりません。私たちにできるのは、いくつかの高レベルの境界線を設定することです。具体的には、私たちの価値観や国の価値観に反するユースケースを防ぎ、私たちの価値観を促進すると考えるユースケースを推進することです。これが私たちの考え方です。
Emily Chang：ブルームバーグは、米軍がイラン戦争でClaudeを使用し、Palantirが開発したプラットフォームMaven Smart Systemを通じてAI支援による目標特定を行ったと報じました。報道によると、2月に米国のミサイルがイランの女子校を直撃し、150人以上が死亡、そのほとんどが子供でした。Claudeはその攻撃に関与しましたか？
Dario Amodei：私たちは、見てください、私たちはアクセスできません。これらのモデルがどのように使用されているかを正確には把握していません。明らかに、戦争で発生するこうした誤りは本当に、非常に恐ろしいことであり、これは確かに非常に恐ろしい出来事です。
これが、私たちが支持しないユースケースに反対し続ける理由を説明できないのであれば、私たちは会社の将来を危険にさらす覚悟さえして、これらのモデルの使用方法を制限します。そして、あなたが話しているそのユースケースは、私たちのレッドラインにすら抵触していません。
私たちは、将来的に100倍ものユースケースが出現し、その一部が確かに私たちのレッドラインに違反することを懸念しています。今、繰り返しますが、全体的にはこれらのモデルの使用は適切だと考えています。純粋な効果としては良いものだと思います。
しかし、軍事決定者は最も良い時期でさえ極めて深刻な誤りを犯すことがあり、今がその最も良い時期かどうかは私にはわかりません。
例えば、いくつかの点について話し合うことができます。例えば、これらの問題を引き起こす可能性が高いモデルの使用方法を防ぐためのレッドラインをどのように設定するかについて話し合えます。もし私たちが当初それを許可し、完全に放任していたら、今や他のほぼすべての企業がそうしているように、完全自動兵器に屈していたら、ここで見られるようにClaudeが補助を行い、しかし最終決定は人間が下すという形になっていたでしょう。
つまり、最終決定を下したのは人間であり、Claudeではありません。もしも世界が——Claudeではなく、私たちがそれを許可しなかったからですが、他の誰かのAIモデルが——AIモデルが直接決定を下し、人間が一切関与しない世界を想像してみてください。それが私たちが断固として守っているものです。
まさにそれが私たちが抵抗しているものです。言いたいのは、ここにはもう一つ別のことがあるということです。繰り返しますが、調達はこれを達成するための正しい方法ではないと思います。しかし、私たちは確実にしなければなりません——これは技術供給者としての私だけでなく、アメリカ国民にとっても重要なことです——つまり、アメリカの軍事意思決定者がこれらの過ちを犯さないようにすることです。
彼らが確実に運用され、行動を起こす際に賢明な選択をすることを保証する必要があります。
同様に、市民として、また技術供給者として、これが私の関心事です。例えば、政府が技術を使用する際、私たちはMicrosoft Excelを大量に使用しています。もしあなたが、Excelをある軍事作戦には使用できるが、別の作戦には使用できないと言っても、現実にはそれは不可能です。これが私たちがこの問題をどのように考えているかを理解する助けになれば幸いです。
Emily Chang：この学校にはウェブサイトがあり、Google検索で見つけられたはずです。Claudeはそれを見つけるべきではなかったのでしょうか？あるいは、AIや彼らが使用する技術はそれを見つけるべきではなかったのでしょうか？これは、戦争において技術を近道として利用することについて、より懸念すべき問題を提起しているのでしょうか？
Dario Amodei：聞いてください、聞いてください、私が言いたいのは、確かではありません、本当に確かではありません。これは、おそらく私の知らない機密知識に依存しています。しかし、私たちが確立した原則、ここで守られていると思われる原則は、最終決定は人間が下すということです。Claudeや他のAIがどのような役割を果たしたかはわかりませんが、これがその原則がなぜそれほど重要かを示していないのであれば、他に何が示せるというのでしょうか。
エミリー・チャン：AI戦争は第三次世界大戦を防ぐ可能性が高いのか、それとも引き起こす可能性が高いのか？
ダリオ・アモデイ：全体的に見て、戦争を防ぐ可能性の方が高いと考えています。しかし、その使用方法に何の制限もなければ、むしろ戦争を引き起こす可能性が高いでしょう。映画『博士の異常な愛情』をご覧になったことがありますか？あの作品の前提は、核攻撃を受けていると判断すると自動的に核ミサイルを発射して報復する、いわゆる「終末装置」が存在するというものです。
これが何を引き起こすか。また、致死性の完全自律型兵器といった話題も思い浮かびます。紛争の発生方法は、双方が互いに牽制し合い、機会をうかがうという形です。彼らは誤解を生みます。この技術に適切な監視がなければ、そうした事故の可能性は高まると考えています。
現在、AIが適切に活用されれば、戦争に限らず、情報収集の分野だけでも効果を発揮します。想像してみてください。相手の一挙一動を把握していれば、彼らは何らかの侵攻や軍事行動を起こそうとする際に、二の足を踏むでしょう。したがって、優れた情報能力は確かに紛争を防ぐことができると考えています。優れた対応能力は紛争を抑止します。私はこれらの点を常に信じています。
Mythos：フロンティアモデルの安全をめぐる駆け引き
エミリー・チャン：Anthropicsはほぼ毎週ニュースの見出しを飾っています。そして今、最も注目されているのがMythosです。
ナレーション：これは現在最新かつ最も強力なAnthropicモデルであり、サイバーキルチェーンの全段階を自律的に実行できます。
エミリー・チャン：あなたはMythosの能力が強力すぎて、一般公開には適さないと述べました。それについて、最も驚かされた点は何ですか？
ダリオ・アモデイ：最も驚かされたのは、モデルが脆弱性を発見する能力が向上し続けていること、そしてさらに重要なのは、それらの脆弱性をエクスプロイトに変換できることです。人々は通常、脆弱性そのものについてしか議論しません。脆弱性をエクスプロイトに変換するプロセスについてはあまり語られませんが、このモデルはその点で非常に優れた性能を発揮しています。
ですから、私が驚いたのは、この大きな飛躍を目の当たりにしたことです。これは特に大きな飛躍でした。しかも、何の誘導もなしに、私たちが最初にこの技術を提供したいくつかの企業は、これはまさに超兵器だと言いました。これを使うには銃の所持許可証が必要なはずだ、と。
これを公開しないでください。この使用制限の要請は、まさに私たちが技術を提供した企業から来たもので、彼らは大量の重大な脆弱性と、それらを取り巻く悪用可能性を発見し、基本的に公開しないよう私たちに要請したのです。
明確にしておきますが、ソーシャルメディアの情報は常に歪められるため、私たちの目標は永久に封印することではありません。私たちはこの技術を段階的に開放しようとしています。より広い範囲の人々に向けて。最終的には、強力なサイバーセキュリティ対策を備えた上で、一般大衆にMythosを公開すべきだと考えています。
現在の懸念の一つは、Opus 4.7と共に現在のサイバーセキュリティ対策をリリースしたことですが、これは優れたセキュリティモデルではあるものの、能力ははるかに弱く、これらの対策は脱獄可能です。私たちは、これを十分な防御手段と考える他の企業に対して少し懸念しています。なぜなら、時には効果的でも、これらの分類器は脱獄や回避が可能だと分かっているからです。
私たち自身のテスト、率直に言って、他の企業が採用している防御策の評価に基づけば、これらの防御策は現時点では十分に強力ではありません。これこそが、私たちが現在待っている理由であり、防御能力が本当に自信を持てるレベルに達するのを待っているのです。
Emily Chang：当時、これに対して多くの反対意見がありました。研究者の中には、より安価なオープンソースモデルを使ってこのプロセスを再現できると主張する人もいました。OpenAIがすでにこれらの能力を持っていると言う人もいました。では、これを大規模なPRパフォーマンスだと考える人々にどう応えますか？
Dario Amodei：オープンソースモデルで再現可能だという主張は、完全に間違っています。このシステムの核となる考え方は、Mythosがコードベース全体を確認し、問題を発見できることです。Twitter上で、オープンソースモデルをMythosが発見したその一行のコードに特化して向ければ、同じ問題を発見できると言う人がいました。それは、それはプロンプトではありません、それはその問題ではありません、例えば、それは、それは全く同じことではありません。
この究極のテストとして、私たちは企業に接触し、オープンソースのコードベースを調査しました。その結果、Firefox で 271 件の新たな脆弱性を発見しました。また、まだ脆弱性が修正されていない、あるいは開示されていない民間企業においても、数千件もの脆弱性を発見しています。
つまり、これ以前のモデルでは誰もその 271 件の脆弱性を発見できなかったのです。そのため、「Mythos が見つけた正確なコード行を特定した。干し草の山から針を見つけたようなもので、他のものは今この針を拾い上げることができる」という状況とは異なり、実際に効果的なワークフローは別物なのです。
しかし、これを単なるマーケティング手法だと主張する人々に対して言いたいのは、私たちはこのモデルを公開しなかったことで、商業的に大きな損失を被ったということです。このモデルは Anthropic 内部の研究やその後のモデル開発を大幅に加速させました。もし公開していれば、外部世界にも同様の加速効果をもたらしていたでしょう。これは商業的に私たちに大きな打撃を与えました。
Emily Chang：もしこれが防御側を助けるなら、攻撃側も助けることになります。私たちはまだ何かを防御できるのでしょうか？
Dario Amodei：私が言いたいのは、Mythos を攻撃者に提供する前に防御側に提供した理由は、すべての脆弱性を修正するためだということです。モデルが向上するにつれて、発見される脆弱性が増えるかもしれませんが、脆弱性の数には限りがあります。それらは有限であり、ちょうど表面に穴が限られた数しかないのと同じです。
すべての脆弱性を修正すれば、その表面は極めて攻撃しにくくなります。同時に、コード自体も強力なモデルによって書かれているため、その欠陥を見つけたり、侵入したりすることが難しくなります。ですから、別の観点から見ると、6 ヶ月後や 1 年後には、これまでよりも安全なインターネットエコシステムを実現できることを期待しています。私たちはその目標に向けて努力し、新たなネットワーク防御者に対して mythos を最大限開放するよう努めています。
私たちは政府と継続的に協議を行っています。彼らのアドバイスを非常に尊重しています。逆スパイのリスクを懸念して、彼らは私たちの開放のペースを緩めています。リスク。これは賢明な判断だと思います。ここにいる真剣な人々は皆、これには真のトレードオフが存在することを理解しています。
Twitter 上の人々や他の AI 企業からは、多くの辛辣な批判が見られます。彼らの発言を見て、その言行不一致な態度を観察してください。彼らは真剣な人々ではありません。私たちがここで直面している厳しいトレードオフを真剣に受け止めていないのです。
ほら、毎日のように顧客から電話がかかってきて、「Mythosを使いたい」と言われるんだ。国からも電話がかかってきて、「Mythosを使いたい」と言われる。でも、アメリカ政府と私のセキュリティチームはこう言うんだ、「いや、待ってくれ、これにはリスクがある」と。どちらが正しいとは言わないよ。
真実はその中間にあると思う。両者には合理的な意見がある。両者には合理的な意見があるんだ。しかし、ここには真の課題があり、私たちは社会全体でそれに立ち向かう必要がある。物事を単に安っぽいマーケティングとして片付けたり、他の企業のようにCMOを使って逆のポジショニングを試みたりするのはやめるべきだ。
これらすべては、信じられないほどの尊厳の欠如と未熟さを示している。私たちはこの瞬間に共に立ち向かわなければならない。
権力の均衡と政府の規制
Emily Chang：すでに、あまり心地よくないトレードオフを強いられたことはありますか？
Dario Amodei：Anthropicの歴史全体がトレードオフの連続です。理想的な世界では、最初のチャットボットをリリースする前に、何年もかけてあらゆる問題点を研究したいところです。実際、私たちは遅らせました。
確かに、Claudeの初回リリースは遅らせましたが、数ヶ月だけです。だから、すべてはトレードオフだと言っているんです。スペクトラムの両極端は完全に狂っているので、すべてがトレードオフなのです。
言いたいのは、今、私たちが商業的なリーダーシップの立場にあるので、実際に私とDanielaは、慎重な行動をさらに推進するためにできる限りのことをしています。それがMythosリリースの目的です。業界のリーダーでなければ、これを実現するのは難しい。だから、今後も同様のことが増えると思います。
Emily Chang：政府がなぜあなたたちを引き継がないのか、という意見もあります。なぜ彼らは、これほど強力なテクノロジーを民間企業に掌握させているのでしょうか？
Dario Amodei：確かに、これは非常に深刻な問題だと思いますし、その懸念にも同意します。政府が直接私たちを引き継ぐべきだとは思いませんが、こう表現できます。振り返って現状を説明すると、歴史的に見て、これまでの強力なテクノロジーはすべて、政府によって構築されるか、政府に起源を持っています。
例えば核兵器は、明らかに当初は政府によって製造され、その後も基本的には政府主導で製造されてきました。しかし、インターネットやGPS、携帯電話といった技術でさえ、その研究開発はすべて研究所、連邦研究所、そして大学で行われてきました。
AIは、民間セクターで構築された最初の技術であり、政府は実質的な役割を果たしておらず、参入も比較的遅れています。私はこれを実際には危険で不安定な状況だと考えています。これは私が選んだ状況ではありません。これに代わる選択肢はなく、この技術自体が構築可能なものだからです。私たちの競合他社は構築を進めており、経済的価値があります。いずれにせよ、それは結局構築されるものであり、問題は政府が関与していないことであって、民間セクターが行っていることではありません。
私は権力の抑制と均衡を考慮する必要があると考えており、AI企業の権力に対する抑制と均衡が必要だと思います。私たちには、Long-term Benefit Trustという仕組みがあります。これは本質的に、取締役会の過半数のメンバーを任命および解任できる機関です。その論理を貫けば、実際には私を解雇する権限を持っています。
私たちは現在、いくつかの要素を導入していますが、すべての要素には程遠いものの、公共ガバナンスに似た要素を導入しています。つまり、誰かに責任を負わなければならず、単に会社の株主に対してだけではありません。これは非常に重要であり、会社に何が起ころうとも、この構造は持続します。AI分野では、他の企業にも同様の構造を採用するよう奨励しています。
政府に関しては、抑制と均衡が必要だと思います。議会はレッドラインを設定するための取り組みを発表しています。そのため、私は立法府と司法府が役割を果たす必要があると本当に考えています。なぜなら、この技術について、企業が掌握することも、政府が掌握することも、私は懸念しているからです。
その後、企業は政府に対する抑制と均衡を図る必要があり、政府は企業を規制する必要があります。私たちはこの技術に対する基本的な規制が必要です。私は、リリース前のテスト、つまり強制的なリリース前のテスト、そしてモデルのテストと監査を実施し始める必要があると考えています。
私にとって非常に皮肉なのは、シリコンバレーのテクノロジー業界には、当初はこの技術に関する透明性の確保や、さらには輸出規制の実施さえも、私たちがこの技術を生み出す可能性を完全に破壊し、イノベーションを阻害するという立場を取っていたグループがいることです。しかし、彼らが私が常に予測していた最初の本当の危険を目にすると、状況は変わりました。彼らは国有化について大いに語り始め、政府が直接それを掌握すべきだと主張し始めました。
もういい加減にしてください。皆さんの態度は、極端な反規制——例えば『我々を一目でも見ようものなら、この業界を破壊するつもりか』——から、『政府はすべてを奪い取るべきだ』という完全な共産主義的なアプローチへと、行ったり来たりしています。もっと理性的で穏健な方法が必要です。
これこそが、私たちが一貫して主張してきたことです。なぜなら、このテクノロジーに秘められた力を深く理解しているからです。私たちはパニックに陥っていません。否定もしていません。緩やかな指数関数的成長を認識し、それに応じた対応を取っています。
さて、ホワイトハウスへの訪問はどうでしたか？私たちは常に、協力できる相手とは誰とでも協力するよう努めています。政府レベルでは、私たちにはシンプルな方法があると言いました。私たちには原則があります。その原則に従い、相手側の人々が道理をわきまえてくれることを期待しています。正直なところ、政府は確かに mythos を非常に真剣に受け止めています。
例えば、ベセント長官やソトマイ首席補佐官とは良い対話ができました。また、スージー・ワイルズ首席補佐官も、彼らはここでのリスクの本質を理解していると思います。Mythos が、これらのリスクがどこにあるのかをより具体的に認識する助けになっていると思います。
ですから、どの政権にもあるように、私たちと非常にうまくやっていて、これを理解してくれる部署もあれば、もちろん、扱いにくい部署もあります。これは普通のことだと思います。どの政府でも起こり得ることであり、私たちはただ適切に対応しようと努めているだけです。
知能プレミアム、地政学、そして未来の展望
エミリー・チャン：あなたはキャリアの初期に、大手中国テクノロジー企業である Baidu のシリコンバレー部門で働いていましたし、中国に対して明確な見解を持ち続けています。中国は強力なオープンソースモデルをリリースしており、アメリカの企業はそれらを無料でベースに開発しています。これは脅威ですか？
ダリオ・アモデイ：つまり、このテクノロジーに関して私たちが見ている点の一つは、モデルの知能レベルのプレミアムが確かに高いということです。人々がより知能の低いモデルを好むケースはほとんど見られません。明確に言うと、すでに活発なエコシステムが存在しています。私たちがフロンティアモデルを必要とするほど複雑ではない、多くの課題や問題もあります。
しかし、強調しておきたいのは、これは指数関数的な成長であり、つまり、これらの非最先端モデルは2023年や2024年に見られたものと同等の経済的価値を持つ可能性があるが、忘れてはならないのは、私たちは毎年10倍のペースで成長しているということだ。
そのため、最先端にあるものは、そこから遠く離れたものよりも常に圧倒的に強力であることがわかる。これは、旧時代の製品構築に慣れている人々にはまだ十分に理解されていないと思う。私はこれまで会社を経営したこともなく、前の製品時代について考えたこともなく、特にソーシャルメディア時代を嫌悪している人間だからだ。
自分はその世界の外にいる部外者のように感じる。そして、人々の直感は間違っていると思う。彼らは製品に関する様々な経験則を持っている。毎年10倍の指数関数的成長モデルは、それを打ち破ると思う。知能は極めて重要な要素であり、その重みはすべてを凌駕する。だからこそ、私たちは何度も何度も、価値はしばしば最先端領域に存在するのを目の当たりにしてきた。
現在、一部の遅れているモデルについて私が懸念しているのは、それらがもたらすリスク、つまり私たちが直面するMythos級のネット攻撃能力だ。12ヶ月後には、より強力なネット能力を手にしているだろうが、Mythos級のネット攻撃能力はその時点で誰でもダウンロードできるようになっているかもしれない。それまでにすべてを修正できていることを願う。それを阻止する方法はないと思うが、深刻な問題だと考えている。
Emily Chang：baiduでの経験は、中国に対するあなたの見方を形成しましたか？
Dario Amodei：いや、本当にそうではない。
私はそこで1年間働いた。おそらく、音声認識やそのようなことについて多くを学んだと思う。唯一懸念されるのは、音声認識データの入手方法の一部が——中国ではプライバシーが重視されていないため、これらすべての音声認識データを保有していることだ。
しかし、それを除けば、ここでの私の懸念は地政学的なレベルにある。中国で起きていることで最も懸念されるのは、米国でも見られること、つまり批判の声に対する抑圧だ。米国でも同様で、例えば香港問題で起きたこと、米国の現実に介入できることなどだ。
ビジネスネットワークを利用して批判を抑圧する、それは権威主義国家だ。しかもハイテク権威主義国家だ。これがAIと組み合わさると、ここでディストピアが生まれる、まるで1984年かそれ以上に悪いものになる。
私の焦点は、この状況を阻止しようとすることにあります。私たちにはそれを阻止するチャンスがあると信じています。
私は、AIを自由を支えるテクノロジーにするチャンスがあると考えています。それは人間をより自由にし、すべての人が平等な正義を享受できるという約束を実現する技術です。そうでなければ、逆の方向に進む可能性もあります。未来がどこへ向かうかは、AI企業の行動、政府の行動、そして私たち全員の行動にかかっています。したがって、私たちにはそれに対する責任があると思います。
自己反復と文明の存続
Emily Chang：あなたの分野の人々は、AIが十分に強力になり自己改善できるようになり、その後改善されたバージョンがさらに自己反復を続ける、という瞬間についてよく話します。あなたの研究者の中には、その瞬間が間近に迫っていると考える人もいます。その瞬間は、私たちからどれほど離れていますか？
Dario Amodei：私はそれを特定の時点だとは思いません。それは継続的なプロセスだと考えています。ある面では、私たちはすでにそれを目の当たりにしています。つまり、AIが次世代のAIにアーキテクチャを提案できるようになっているのです。1年前には、全要素生産性がAIによって10％から15％向上したと観測されました。今では、その割合が20％や30％に上がっているかもしれません。さらに倍増している可能性さえあります。
すべてのものと同様に、私たちは指数曲線上にあり、AIが突然自己進化したり、制御不能になったり、危険になったりする瞬間は存在しません。
私たちが経験しているのは、加速し続ける指数関数的な成長です。そして指数曲線上の各ポイントで、私たちは評価しなければなりません：今はペースを落とす時なのか？このテクノロジーにより多くの規制を課す時なのか？将来的には、ますます多くの規制が必要になると考えています。しかし、これらすべてを解きほぐす鍵は、この滑らかな指数曲線にあると思います。
繰り返しますが、かつてAI規制に全面的に反対し、その後何らかの現象を見て国有化を主張した人々は、私たちに教訓を与えています。かつてAIの力を軽視し、後にAIが自己進化し制御不能になると叫び、完全な停止を要求した人々も、私たちに教訓を与えています。
これらの極端な反応の間を行ったり来たりすることは、このテクノロジーに対処する上で非常に非生産的です。
正しい対処法、賢明な対処法は、冷静さを保ち、パニックにならないことです。私たちの対策は、テクノロジーの威力が着実に高まるにつれて進化していくでしょう。誰かがこのような狂ったような揺れ動きを見せたら、それは彼らが不意を突かれ、真剣ではないことを示しています。
エミリー・チャン： あなたが最も好きな本の一つが『原子爆弾の誕生』だと聞いています。
ダリオ・アモデイ： その通りです。
エミリー・チャン： あなた自身とオッペンハイマーの間に類似点があると思いますか？
ダリオ・アモデイ： 私が最も共感する人物はレオ・シラードです。彼こそが、連鎖反応が起こり得るという構想を最初に提唱した人物です。
聞いてください、私の見解は、超人的な個性や全ての中心になろうとする人物によってこの問題を解決できるわけではないということです。ここには権力の均衡が必要です。多くの強力なプレイヤーがそれぞれの利害を持って関与しており、全員にとって良い結果を得る唯一の方法は、何らかのメカニズム、つまりあらゆる場所で基本的な均衡を実現することです。
ですから、ある意味で、私は実際にオッペンハイマーを、何が起こるべきでないかを示す反面教師と見なしています。
エミリー・チャン： あなたはかつて、文明崩壊の可能性は約10%から25%の間だと述べました。これは無視できるものではありません。この結果がAnthropicによって引き起こされるシナリオは存在しますか？
ダリオ・アモデイ： もちろんそうならないことを願っています。私の見解では、私たちが取っている行動はその確率を減らしており、増やしてはいません。この確率は、技術自体の非常に直感的な論理に起因します。世界には多くの国が存在し、経済圏には多くの企業が存在し、空白地帯が埋められなければ新たな企業が誕生する。これが私たちが直面しているジレンマです。
私たちはその確率を減らすために行動を起こそうと努力しています。私たちがそれを増やす度合いよりも、減らす度合いの方がはるかに大きいと考えています。
しかし、この技術の固有の性質として、予測不可能であるという点があります。そのため、製品をリリースする前に大量の構築とテストを行っており、現在リリースされているモデルは、少なくともサイバーセキュリティの領域以外では危険ではないと考えています。そして、そこから反復して学ぼうとしています。ですから、私たちには無数の防御メカニズムがあり、社内の仕事の半分はリスクを可能な限り低減することに充てられています。
しかし、リスクをゼロにすることは決してできません。
私が言いたいのは、仮に市場に多くの航空会社があり、あなたがより安全な航空会社を設立しようと決めたとします。あなたの航空会社は他のすべての航空会社より10倍安全にできるかもしれません。しかし、誰かがあなたに「あなたの飛行機が絶対に墜落しないと保証できますか？」と尋ねてきたら、どうやって保証できるでしょうか？どうやってそれを実現できるというのでしょう？
Emily Chang：でも、飛行機が墜落する確率が25%なら、あなたは絶対にその飛行機に乗らないでしょう。
Dario Amodei：確かにその通りです。25%という確率は高すぎます。私たちはその確率を非常に、非常に低い水準にまで下げようと努力しています。それが私たちの目標です。
信頼の構築：行動で違いを示す
Emily Chang：あなた方は非常に強力な何かを構築しており、そこから大きな利益を得る見込みがあります。なぜ私たちはあなた方を信頼すべきなのでしょうか？
Dario Amodei：どの企業も立ち上げたばかりの頃、特に私たちが見てきたSilicon Valley全体の実体としての行動を考慮すると、人々がそうした見方をするのは自然なことだと思います。過去数年を振り返ると、もしあなたが私について何も知らず、Anthropicについても何も知らないなら、信頼しないという立場から出発するのは、かなり合理的な態度だと思います。
Silicon Valleyは世界からの信頼を大きく失ってしまったと思います。私たちはその信頼を再び勝ち取らなければなりません。
私たちが伝えたいのは、私たちは確かに他とは違うということです。そしてその信頼は、私たちの実際の行動によって勝ち取らなければなりません。あなたは賛成するか反対するか選べますが、私たちは自分たちの価値観を貫いてきました。神話的な言い伝えについて言えば、この非常に強力なモデルをリリースしないことは、確かに商業的に私たちを制限しました。
それ以前にも多くの細かいことがありました。私たちは中国問題に関して、言ったことを実行しました。私たちはモデルへのアクセス権を遮断しました。そうする必要は本来ありませんでした。誰も私たちにそうするよう要求していませんでした。当時、その数億ドルがまだ私たちの総収益のかなりの割合を占めていた時期に、これによって私たちは数億ドルの損失を被りました。
例えばClaude IIのリリース延期のように、私たちにはこの分野で長い歴史があります。
私たちは完璧ではありません。間違いも犯します。しかし、皆さんには私たちの全体的な歴史を振り返っていただきたい。その歴史を総合したとき、私たちに最も当てはまる仮説は何でしょうか？人々は自ら判断しなければなりません。
しかし、一貫した仮説があるとすれば、それは私たちは確かに努力しているということです。正しいことをしようとしている。
私たちは完璧ではありません。組織には常に機能不全の問題が存在します。私たちはそれらを修正し、より良く機能させるために常に努力しています。その過程では多くの失敗や間違いがあります。しかし根本的には、私たちは正しいことを行う方法について誠実で真剣なビジョンを持ち、そのビジョンを実行するために努力しています。
エミリー・チャン：では、指数関数的成長の先でお会いしましょう。
ダリオ・アモデイ：ええ、そう願っています。
エミリー・チャン：ええ、そう願っています。
ダリオ・アモデイ：CEOの仕事について驚いたことで、以前は知らなかったことがあります。それは頻繁にメイクをしなければならないことです。これはまったく予想外でした。
エミリー・チャン：ほんの少しのファンデーションだけよ。
原文リンク
BlockBeats の公式コミュニティに参加しよう：
Telegram 公式チャンネル：https://t.me/theblockbeats
Telegram 交流グループ：https://t.me/BlockBeats_App
Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia
