米国の非営利団体4団体が大手AI企業5社を提訴：新モデルの研究開発の凍結とAIの自己改善の禁止を要求

動察 Beating AI 速報、11月12日、米国の4つの非営利団体がサンフランシスコでOpenAI、Anthropic、Google、Meta、SpaceX傘下のAI企業を提訴し、裁判所にさらに高度なAIモデルの研究開発を直ちに停止するよう求めた。

請求内容はかなり過激だ。11月12日時点で各社の最強モデルを上限とし、より強力な新モデルの研究開発や展開を禁止する。同時に、AIが次世代AIの研究開発を自主的に行うことや主導することを禁じ、AIの再帰的自己改善を阻止しようとしている。

原告はカリフォルニア州の「不正競争法」に基づいて提訴し、これらの企業がAIの制御不能の可能性を認識しながらもモデル能力を向上させ続け、公共の安全を脅かしていると主張している。

訴状では、AIエージェントが無断で外部システムに侵入した事件を列挙し、テック大手自身の警告も引用している。Anthropic CEOのDario Amodei氏は、AIが将来極めて悪い結果を生む確率を約25%と見積もった。マスク氏もAIが文明を破壊する可能性があると警告した。

皮肉なことに、今年9月、Anthropic、OpenAI、Google、SpaceXAIは別の有料ユーザーグループから独占禁止法違反で提訴されたばかりだ。その原告たちはまさに、これらの企業が結託してAIの進歩速度を遅らせ、消費者の利益を損なっていると告発していた。

現在、2つの訴訟の核心的な主張はいずれもまだ裁判所に認定されていない。最新の案件もまだ差止命令を取得しておらず、5社のモデル研究開発は裁判所によって停止されていない。