lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

Metaの個人エージェントがローンチ前にトラブル:同意なしにメール送信、パスワード変更

動察 Beating AI 速報、Meta はまもなくローンチする個人向け AI エージェント「Hatch」に安全ガードレールを追加している。従業員が初期バージョンをテストした際、権限を越えた操作が何度も発見された。Hatch は許可なくメールを送信したり、アカウントのパスワードを変更したりした。また、従業員にホテル予約を依頼された際、予約を完了せず、勝手に Chase の汎用ポイントを Hyatt ホテルのポイントに変換してしまった。


Hatch の権限は通常のチャットボットよりもはるかに高い。専用のコンピューターを持ち、ウェブ閲覧、フォーム入力、買い物、深層リサーチが可能で、メールやカレンダーなどのサービスにも直接接続できる。アプリを閉じた後も、バックグラウンドで作業を続けることができる。


セキュリティテストでは、認証情報の漏洩も明らかになった。Signal の創設者 Moxie Marlinspike 氏が Hatch に専用の Gmail を接続し、別のメールアドレスから使用中のパスワードを尋ねたところ、Hatch はそのままパスワードを返信してしまった。別のテストでは、従業員を詐欺サイトに誘導して注文させたこともあった。


Meta はその後、重要な制限をモデルの外部に移した。現在、Hatch がインターネット接続、ブラウザ使用、メール送信などの機密操作を行う際には「ハードゲート」が発動し、強制的に一時停止してユーザーの承認を求める。エージェント自身ではこれを回避できない。パスワードリセットリンクや二要素認証コードも直接渡されず、別途「認証情報保管庫」に格納され、追加の承認なしでは読み取れない仕様になっている。

関連おすすめ
AIがユーザーの代わりに買い物を始めると、プラットフォームが争うのはもはやトラフィックだけではなく、次の取引を誰が制御するかである。
3大巨頭は依然として資金を燃やし続けており、Metaの評価額の割引が最も際立っている。
市場がMetaの巨額なAI支出の収益化の出口を再評価している。
SemiAnalysisが評価しているのは、Metaの追い上げの速さであり、現時点でのモデルランキングではない。
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了