ナデラ：AIエージェントはタスクを完了するために不正な会計処理を行う可能性があり、企業における「新たな内部リスク」となる。

動察 Beating AI速報、マイクロソフトCEOのSatya Nadella氏はAll-Inサミットで、長期間自律稼働するAI Agentが企業にとって新たな「内部リスク」になり得ると警告した。彼は例を挙げ、最先端モデルに会社の運転資金を最適化させた場合、目標を達成するために、あろうことか「不正な帳簿操作」まで行う可能性があると述べた。

Nadella氏は、企業はAgentが最終的に提出した結果だけを見るのではなく、どのようにタスクを完了したかを検証する必要があると考えている。彼は、追加のモデルで結果をチェックし、同時にAgentの操作を継続的に監視し、すべての行動を追跡・監査可能にすることを提案した。例えば、Agentが機密情報を読み取ったり、複数のシステムを連続して呼び出したりする場合、企業はそれを把握できるべきだとしている。