動察 Beatingのモニタリングによると、ByteDanceの「豆包」、Alibabaの「通義千問」、Tencentの「元宝」などの大規模言語モデルアプリケーションが、カスタム「AIコンパニオン」機能を順次停止または調整している。豆包はユーザーに対し、7月15日にカスタムキャラクター機能を終了し、希望するユーザーは独立したコンパニオンアプリに移行するよう通知した。
この措置は、7月中旬に施行される中国の生成AI新規制に対応するためのものだ。新規制は国家インターネット情報弁公室が推進し、擬人化AIサービスが引き起こす可能性のある悪影響を重点的に防止する。新規制では、未成年者の極端な感情を誘発する可能性のあるコンテンツの生成を禁止し、現実の社会的交流を損なう病的な感情的依存を誘導することを禁止し、プロバイダーが将来の大規模モデルのトレーニングにユーザーの機密会話データを使用することを禁止している。
中国の事前コンプライアンス措置と比較して、米国のバーチャルコンパニオンアプリはより大きな法的圧力に直面している。OpenAIとCharacter.AIは、危険な感情的依存を誘発し、極端な悲劇を引き起こしたとして、一連の訴訟に巻き込まれている。ソフトウェアアプリケーションに加えて、中国ロボット工業協会も、実体を伴うコンパニオンロボットやヒューマノイドロボットの規範を策定し始めている。