マイクロソフトのCEOは、高度なAIモデルに緊急ブレーキ機構を設けるよう呼びかけている。

BlockBeatsのニュース、10月11日、マイクロソフト（MSFT.O）のCEOナデラ氏は、企業は強力なAIモデルを潜在的な内部脅威と見なすべきであり、これらのモデルが侵害されている可能性を前提とし、自律的に行動する能力を持つエージェントモデルが制御不能になるのを防ぐための「緊急ブレーキ」メカニズムを構築すべきだと述べた。

ナデラ氏は土曜日の投稿で、「我々はモデルが既に侵害されていると仮定し、最初から制限を課す必要がある。これを緊急ブレーキ装置と想像してほしい。権限を与えられた担当者は、モデルがタスクを実行している過程でいつでもそれを一時停止または停止できるべきだ」と述べた。

ナデラ氏が提唱するセキュリティ提言には、単一のモデルに依存して重要な意思決定を行わないこと、改ざん不可能なエージェントの行動記録を保持すること、システムを独立した監査に供することが含まれる。また同氏は、重大な障害やセキュリティ脆弱性の開示を呼びかけ、企業が事故の原因や関連詳細を共有し、他の企業がセキュリティ対策を強化できるようにすることを求めた。