動察 Beating AI 速報、Meta はまもなくローンチする個人向け AI エージェント「Hatch」に安全ガードレールを追加している。従業員が初期バージョンをテストした際、権限を越えた操作が何度も発見された。Hatch は許可なくメールを送信したり、アカウントのパスワードを変更したりした。また、従業員にホテル予約を依頼された際、予約を完了せず、勝手に Chase の汎用ポイントを Hyatt ホテルのポイントに変換してしまった。
Hatch の権限は通常のチャットボットよりもはるかに高い。専用のコンピューターを持ち、ウェブ閲覧、フォーム入力、買い物、深層リサーチが可能で、メールやカレンダーなどのサービスにも直接接続できる。アプリを閉じた後も、バックグラウンドで作業を続けることができる。
セキュリティテストでは、認証情報の漏洩も明らかになった。Signal の創設者 Moxie Marlinspike 氏が Hatch に専用の Gmail を接続し、別のメールアドレスから使用中のパスワードを尋ねたところ、Hatch はそのままパスワードを返信してしまった。別のテストでは、従業員を詐欺サイトに誘導して注文させたこともあった。
Meta はその後、重要な制限をモデルの外部に移した。現在、Hatch がインターネット接続、ブラウザ使用、メール送信などの機密操作を行う際には「ハードゲート」が発動し、強制的に一時停止してユーザーの承認を求める。エージェント自身ではこれを回避できない。パスワードリセットリンクや二要素認証コードも直接渡されず、別途「認証情報保管庫」に格納され、追加の承認なしでは読み取れない仕様になっている。