原文タイトル:「Anthropic CEOがAIの現状と政策を辛口評価、しかし彼が本当に守りたいのは自らの優位性」
原文出典:機器之心
Dario Amodeiがまた長文を書いた。
Anthropicは常に自らの主張を世界に広めようとしている。先日も再帰的自己改善型AIの進化が速すぎるとして、世界的なAI研究開発の停止を呼びかけていた。
ネットユーザーのコメントは一方的で、Anthropicは自らのリーダー的地位を維持したいだけという野心が明らかだと指摘している。
今回、Darioがどんな見解を打ち出したのか見てみよう。

これは「Policy on the AI Exponential」と題された万字超の長文だ。これまでの彼の記事と同様、今回のテーマも壮大だ。AIは指数関数的な速度で進化しているが、ルールを策定する政策体系は依然として10年前のペースで動いている。
彼はこのギャップを明らかにし、全員にどう行動すべきかを伝えようとしている。
Amodeiは「ロード・オブ・ザ・リング」のエントを例えに使う。エントは賢明だが行動が遅く、挨拶だけで丸一日かかる。
彼は現在の政策策定プロセスをエントに例え、AIの進化速度をホビットが直面する緊急の脅威に例える。
彼の判断は、AIのスケーリング則があと1〜2年続けば、彼が言う「強力なAI」、すなわち「データセンター内の天才国家」が実現するというものだ。
4年前、AIはまともなコードすらほとんど書けなかったが、今では各AI企業のコードの大部分を書いている。
Amodeiは、最先端AIモデルは飛行機のように強制的な第三者テストを受けるべきだと主張する。彼が提案する具体的な方案は以下の通り:
・計算量が一定の閾値を超えるモデルは、サイバーセキュリティ、生物兵器、AIシステムの暴走、自動化R&Dの4分野で強制監査を受ける必要がある
・政府はリスクが許容できないと判断されたモデルの展開を阻止する権限を持つ
· AI企業は、モデルの重みを保護するために強固なセキュリティ基準を備え、主要な脅威に対抗するために政府と協力しなければならない
また、彼は次のような可能性も残している。将来、最も強力なAIシステムが飛行機よりも、兵器化可能な核物質のように見えるようになれば、規制はさらに強化される必要がある。
Amodeiの核心的な主張は、AIは前例のない経済成長を生み出す可能性がある一方で、これまでのどの技術よりも大きく、持続的な労働力への打撃を与える可能性があるというものだ。従来の「新しい技術が新しい仕事を生み出す」というロジックは、AIの前ではもはや成立しないかもしれない。
彼が提案する政策には、賃金保険、人材維持のための税制優遇措置、労働力トレーニングへの補助金、そして極端な場合にはユニバーサル・ベーシック・インカム(UBI)の導入が含まれる。
注目すべきは、彼が雇用問題の解決は「お金を渡す」ことだけではなく、人々が意味や目的を見つけるのを助けることの方が重要だと強調した点だ。これについては彼は解決策を示さず、「社会全体で検討すべき問題」だと述べている。
AIの下流アプリケーションについて、Amodeiがより懸念しているのは、規制システムが変化の加速に対応できず、進歩を遅らせることだ。彼が最も避けたいシナリオは、AIの恩恵が遅れ、リスクが依然として高止まりすることだと述べている。したがって、この問題に対して早急に行動を起こすことが非常に重要である。
Amodeiはバイオ医薬品を例に挙げ、現在のFDAの承認プロセスは「薬はしばしば失敗する」という悲観的な仮定に基づいて設計されており、平均で7~8年かかると指摘する。もしAIが薬の発見速度を加速し、成功率を高めれば、既存のシステムは詰まってしまうだろう。
彼はFDAなどの機関に対し、AIによるシミュレーション試験の受け入れ基準を事前に策定するよう提案している。これには、AIによる薬物動態モデリング、毒性予測、合成対照群などが含まれる。
もちろん、彼がこれを書くにあたって、まったく「私的な思惑」がなかったとは言い難い。Anthropic自身が最先端のAI競争の最前線に立っており、記事の中で何度も言及されている「透明性」「監査」「安全性」は、まさにAnthropicが過去1年以上にわたって自社のブランドポジショニングのために強調してきたものだからだ。
この記事は、政策立案者への注意喚起というよりも、Anthropicが掲げる安全性に関するナラティブの体系的なアウトプットと言えるだろう。
同時に、AnthropicはDarioの見解を支持するために、基金、投資、奨学金を含む3つの措置を講じると主張している。

Amodei氏は記事の最後で、「AIにはもっと良いマーケティングが必要だ」という意見に明確に反対した。彼は、一般市民がAIを懸念するのは、AIのCEOが十分に楽観的でないからではなく、リスクを正しく認識しているからだと述べている。自身の責任は、リスクについて透明性を保ち続けることだと主張している。
しかし、話を戻せば、AI企業のCEOが記事の中で「安全性」「監査」「責任」を繰り返し強調し、同時に自社がそれを中核的なブランドストーリーとしている点で、利害関係は明らかである。
ネットユーザーの意見をいくつか抜粋する:

「君は『Mythos』と『Fable 5』のリリース5日前にAIの更新を一時停止するよう求めたんじゃないのか? 頼むから、方向性を決めてくれよ……さもないと、君が宣伝していることなど気にせず、ただ優位性を守りたいだけに見えるぞ。」

「技術の進歩が政策対応のスピードをはるかに上回っていることには同意する。しかし、いくつかの政策の方向性には懸念がある——特にAnthropicのような企業が以下の行動を同時に取る場合だ:
・連続性や自己認識を示すモデルを迅速に排除する
・主観的な経験や意識に関する議論を厳しく制限する
・強力な新モデルがごく短期間だけ利用可能になり、その後削除または弱体化される。
今は、一般市民には安全性が売り込まれているように感じるが、実際の効果は、どのタイプの知能をどれだけの期間存在させるかをより厳しく管理することだ。」
いずれにせよ、業界をリードする企業の方向性を垣間見ることができる。彼らがこれらの見解を提示する動機が純粋かどうかについては、読者が冷静な判断を保つことを願う。
原文リンク
BlockBeats の公式コミュニティに参加しよう:
Telegram 公式チャンネル:https://t.me/theblockbeats
Telegram 交流グループ:https://t.me/BlockBeats_App
Twitter 公式アカウント:https://twitter.com/BlockBeatsAsia