AIセキュリティ警報がレベルアップ、チャールズ国王が四大AI巨頭を招集し会議を開催

動察 Beating AI 速報、英国国王チャールズ3世は今週、スコットランドのDumfries Houseに複数のAI企業の幹部を招集し、AIをどのように開発・展開すれば真に社会に貢献できるかを議論する。

バッキンガム宮殿が挙げた企業にはNVIDIA、Google DeepMind、OpenAI、Anthropicが含まれ、英国のAI大臣Kanishka Narayanも参加する。OpenAIはCFOのSarah Friarの出席を確認済み。

この会議は最近の「AI減速」呼びかけを受けて急遽追加されたものではなく、関連する手配は1週間前にはすでに明らかになっていた。しかし正式に登場した今、AI安全性をめぐる議論が最も激しくなっている局面と重なった。Anthropic CEOのDario Amodeiは先ごろ、フロンティアAIの能力向上を減速させるよう求め、AIが次世代AIの開発を支援し始めると、進歩の速度が人類の理解と制御能力を超えることを懸念した。Sam AltmanとElon Muskはその後、いずれも公に支持を表明した。

会議は英国の非営利団体Ditchley Foundationが組織を支援する。王室関係者は以前、チャールズ国王はAI政策について自らの立場を示すことはなく、その役割は招集し、耳を傾け、議論を促すことだと明確に述べていた。