AnthropicのCEO：安全上の理由から、会社はAI研究開発の進捗を減速させる方針

動察 Beating AI速報、AnthropicのCEOであるDario Amodei氏は国連安全保障理事会で、効果的な管理が欠如すればAIは全人類にとって存続のリスクとなり得ると警告し、各国にグローバルなAI安全基準の策定を呼びかけた。

Amodei氏は水曜日、ビデオを通じて安保理会議に出席し、AIが不法分子によって生物兵器の製造に利用される可能性があり、最終的には開発者も制御できない暴走システムに進化する恐れがあると述べた。安全上の考慮から、AnthropicはAI研究開発のペースを減速させる方針だ。

Amodei氏はまた、AI安全認証体系の構築を呼びかけ、グローバルな規制協力を推進し、各国が協調してAIの生物化学兵器への利用を阻止するよう求めた。いかなる指導者、企業、国家も単独でAIがもたらす課題に対処することはできないと述べた。

Amodei氏は同時に、AIがライフサイエンス分野の進歩を推進していると指摘し、AnthropicのClaudeがCRISPR様DNA反復配列を持つ新規酵素システムの発見に関与したが、関連技術は壊滅的なリスクをもたらす可能性もあると述べた。

今回の発言は、Amodei氏が今月初めに提唱したAI安全の主張を継続するものである。AnthropicとOpenAIはいずれも最先端AIモデル競争の核心にあり、その研究開発のペースと安全政策は投資家や規制当局から注目されている。