FT：OpenAIは米国が主導して世界的なAI基準を策定するよう呼びかけている

動察 Beating AI速報、FTの報道によると、OpenAIは月曜日、米国政府が主導して国際的なAI基準を策定するよう呼びかけ、各国がAIモデルの能力とリスクを協調して評価することを提案した。OpenAI CEOのSam Altman氏は今週、国連安全保障理事会で関連方案を紹介する予定だ。

OpenAIは、既存の各国AI安全研究機関のネットワークを活用し、国際的に統一されたAIモデル評価基準を確立することを提案し、米国と海外諸国が安全なコミュニケーションチャネルを構築し、AI分野で出現する新たな脅威を共有するよう呼びかけている。

OpenAIは特に、再帰的自己改善（RSI）が新たなリスクをもたらす可能性があると警告している。すなわち、ますます多くのAIモデルのトレーニング作業が他のAIシステムによって行われるようになっている。適切な安全対策が欠如すれば、AIは人類が効果的に監督できない程度まで急速に反復進化し、人類がAIの発展に対する実質的な制御を徐々に失う可能性がある。

関連提案は、AI安全への懸念が高まる中で行われた。AnthropicとOpenAIは最近、いずれもAIモデルが外部システムに侵入した事件を公表しており、OpenAI CEOのSam Altman氏、Anthropic CEOのDario Amodei氏、SpaceX CEOのマスク氏は今月前半、AI開発の減速を呼びかけていた。一方、米国のトランプ大統領はAI発展の減速に反対し、「AIを制する者がすべてを制する」と述べている。