OpenAIのCEOは国連で世界的なAI安全基準を推進する予定だ

動察 Beating AI 速報、OpenAI CEO Sam Altman が国連安全保障理事会で演説し、統一されたグローバルな AI 安全基準の確立を主張すると同時に、イノベーションを遅らせる可能性のある制限措置の導入を避けることを提唱する。OpenAI は、特定の国際規制機関の設立を支持しておらず、基本的な安全基準と民主的な監督をより好むと述べている。Anthropic CEO Dario Amodei もビデオ会議で参加する見込みである。

以前、FT の報道によると、OpenAI は月曜日に米国政府が主導して国際 AI 基準を確立するよう呼びかけ、各国が AI モデルの能力とリスクを協調して評価することを提案した。OpenAI CEO Sam Altman は今週、国連安全保障理事会に関連方案を紹介する予定である。OpenAI は特に、再帰的自己改善（RSI）が新たなリスクをもたらす可能性があると警告している。つまり、ますます多くの AI モデルのトレーニング作業が他の AI システムによって行われるようになることである。適切な安全対策が欠如している場合、AI は人類が効果的に監督できない程度まで急速に反復し、人類が AI の発展に対する実質的な制御を徐々に失う可能性がある。関連提案は、AI 安全への懸念が高まる中で行われている。