アンソロピックが議会へ秘密裏に働きかけ：モデルが10億ドル超の損失または50人の死傷リスクに直面しない限り、政府は停止できない

動察 Beating AI 速報、Politico の報道によると、Anthropic は米国議会議員に対して最先端 AI 安全法案の草案を非公開で働きかけており、政府が AI モデルに介入するための厳格な基準を設けることを提案している。草案によれば、モデルが予見可能かつ差し迫った特定のリスクに直面し、10億ドルを超える損失を引き起こす可能性がある場合、または50人以上の死亡もしくは重傷を引き起こす可能性がある場合にのみ、政府は停止を申請できる。

草案は規制の発動条件を3種類のリスクに限定している。AI モデルが生物兵器の開発や拡散に使用されること、モデルが開発者の制御を離れること、そしてモデルがサイバー攻撃を引き起こすことである。法案はまた、AI 開発企業に対して透明性のあるテストの実施と独立した第三者評価の受け入れを求めている。評価機関が関連するリスクを発見した場合、72時間以内に米国商務省に報告しなければならず、商務省は連邦裁判所にモデルの運用停止を申請でき、最終的な判断は裁判所が下す。

さらに、草案は他の米国政府機関および当局者が AI モデルの開発、展開、または内部使用を独自に停止することを禁止する予定である。Anthropic は、関連する提案は今年初めに公表した先進 AI フレームワークに由来し、開発企業に安全評価の受け入れを求めると同時に、政府に危険なモデルの展開を阻止する能力を与えることを目的としていると述べている。

この草案は現在も働きかけの段階にあり、まだ法律にはなっていない。関連する条項が最終的に可決されれば、米国政府が最先端 AI モデルに対して緊急介入する権限が著しく制限される可能性がある。