「身売り」グーグルにはまず倫理委員会、12年後にハサビスはAGIに最後の歯止めをかけたい

動察Beatingのモニタリングによると、2014年にDeepMindがGoogleに売却された際、ハサビスが提示した条件の一つは、独立したAI倫理委員会を設立することだった。12年後、彼はまだ同じことを考えているが、今回管理したいのはDeepMindではなく、フロンティアAI業界全体だ。

『ウォール・ストリート・ジャーナル』が報じたところによると、ハサビスはDeepMindのCEOを退任する前に、すでに米政府高官や他のAIラボの責任者たちと新しい規制メカニズムを推進していた。米財務長官ベッセント、大統領科学顧問マイケル・クラツィオスも彼の提案を聞いている。ベッセント自身もトランプ政権のAI戦略策定に関与している。ハサビスは将来の機関をAI版「国際原子力機関」に例えている。

微妙なのは、米政府がすでに半分を先取りしていることだ。ホワイトハウスは6月にフロンティアモデルの自主審査枠組みを発表し、ハサビスが7月に公表した案は運用の詳細までそれと酷似している：どちらも重点審査が必要なフロンティアモデルをまず指定し、公開前に最大30日間の審査を許可し、政府もテストに参加させる。

相違点は最後の関門だけだ。ホワイトハウスはこのメカニズムを強制ライセンスや公開承認に変えてはならないと明確に規定しているが、ハサビスはさらに前進させたいと考えている。まず自主的に始め、評価メカニズムが機能するようになったら参入障壁に変え、フロンティアモデルが基準を満たさなければ米国での展開を許可しない。テストもサイバー攻撃から生物リスク、エージェントによる安全対策の迂回、欺瞞行為にまで拡大し、必要に応じて複数のトップラボが協調して開発速度を落とすことも調整できる。