OpenAIとAnthropicの幹部が非公開でAI災害シナリオを検討し、重大事故が世論の反発を引き起こすことを懸念

BlockBeatsのニュース、10月9日、Axiosの報道によると、Anthropic、OpenAI、その他のAI企業の幹部たちは、壊滅的なAIインシデントが発生した場合に起こりうる大規模な世論の反発や政治的抵抗に備えるため、さまざまなシナリオを非公開でシミュレーションしている。これらの幹部は、将来重大な事故が発生する可能性が高く、最も可能性の高い形態はサイバー攻撃であり、金融サービス、インターネット接続、さらには電力や水道システムの中断を引き起こすと予想している。安全でないAIが初めて重大な現実的被害をもたらした場合、もともとAIに懐疑的な一般市民は、この技術とその指導者たちに対する反対にさらに傾く可能性がある。

AnthropicのCEOダリオ・アモデイ、OpenAIのCEOアルトマン、そしてAI規制の強化に消極的で批判されているアメリカ大統領トランプは、いずれも世論の責任追及の対象となる可能性がある。複数のAI業界関係者は、重大な事故は避けられないかもしれないと考えている。OpenAIの広報担当者は「OpenAIは緊急時対応訓練を実施し、チームが一連の潜在的なシナリオについて議論しシミュレーションを行う。これらのシナリオは必ず発生する事象とは見なされておらず、起こりうるさまざまな状況に対応するためのものである」と述べた。