Museの「電話代行」サービスが一部で実際の人間に依存していると報じられ、Metaはテストをロールバックした。

動察 Beating AI 速報、Meta がちょうど Muse の「代わりに電話をかける」テストを拡大した矢先、一部の電話は実は真人によって行われていたことが暴露された。

404 Media と Reuters が入手した内部情報によると、Muse はタスクをコールセンターの真人請負業者に転送し、彼らがユーザーの代わりに電話をかけ、リクエストを完了することができる。一部のテスターは、電話が終わった後になって初めて、真人が介入していたことを知った。

Meta がこうするのは成功率を上げるためだ。内部テストでは、真人が介入した後、電話タスクの成功率は 95% から 98% に達することが示されている。現実的な問題として、相手が AI だと聞くとすぐに電話を切る商家もおり、コミュニティではすでにテスターがこのような状況に遭遇している。

真人によるバックアップはプライバシーの問題も引き起こしている。ユーザーは情報が AI にのみ渡されると考えていたが、実際には外部委託スタッフに見られる可能性がある。Meta 内部でも、請負業者にプライバシー研修を行っても、それは真の安全メカニズムとは言えないと疑問視する声がある。

Meta の内部責任者はその後、真人が介入することを事前に説明しなかったのはミスであったと認め、この真人接管テストをロールバックした。Muse の電話機能自体はまだテスト中であり、Meta は正式リリース前に安全、プライバシー、明確な告知の措置を追加すると述べている。