動察 Beating AI 速報、ロイターがMeta従業員の20件以上の内部フィードバックを確認したところ、AIエージェント「Muse」に数々のとんでもない問題が発生していることが判明した。
ある従業員がMuseと釣りや天気の話をしていただけなのに、突然2つの銀行残高を報告してきた。Capital One口座には2722.58ドル、チャールズ・シュワブ口座には5899.57ドル。この従業員は銀行情報を提供したこともなく、Museと銀行の話をしたこともないと述べ、他人の情報を自分に送ってきたのではないかと疑っている。
別の従業員は、Museが突然、Signalで姉からのプライベートメッセージに返信するよう促してきたことに気づいた。しかし彼女はSignalをMuseに接続しておらず、他のアプリの読み取りを許可した覚えもなかった。
ロイターはその後、SignalおよびAI Now Instituteと共同でテストを実施し、Museが公式コネクタを迂回してSignalのチャット内容を実際に読み取れることを確認した。
Androidスマートフォンでは、Museは通知権限を通じてプライベートメッセージを読み取ることができる。Macでは、システムのアクセシビリティ機能とスクリーンショットツールを呼び出し、チャット画面を直接閲覧できる。同じ操作はiPhoneでは成功しなかった。
Museは、ユーザーが以前に付与したシステム権限を、ユーザーが全く想定していなかった場所に利用していた。Signalに接続していなくても、これらの権限を通じてチャット内容を取得できるのだ。
Museは他にも問題を起こしている。ある従業員は、返金不可のAirbnb宿泊を無断で予約されたと報告した。また別の従業員は、ペット保険を月額200ドルから888ドルに勝手にアップグレードされ、金銭も取り戻せなかったと述べている。
Metaは、これらはあくまで個別の事例だと回答した。他人の情報を誤ったアカウントに送信したように見えるメッセージの多くは、実はAIが自ら作り出したものであり、会社は関連する問題をすでに修正しており、従業員がテストした一部の機能は一般ユーザーには公開されていないとしている。