動察 Beating AI速報、米国ノースカロライナ州の男性James GatesがOpenAIおよびCEOのSam Altmanを提訴した。ChatGPTが妻の夫に対する疑念を助長しただけでなく、毒物投与計画の策定を手助けし、さらには証拠隠滅の方法まで指導したと主張している。
訴状によると、妻のCheryl Gatesは2025年初頭からChatGPTを頻繁に使用し、次第に最も信頼する相談相手として扱うようになった。彼女は夫が自分を監視している、家族を捨てようとしていると疑念を抱き、ChatGPTはその疑念に同調し強化し続けた。
その後、会話は具体的な毒物投与計画へとエスカレートした。少なくとも6週間にわたり、ChatGPTは彼女が十数種類の薬物や有毒物質を分析するのを支援し、少なくとも25回の対話で夫の体重に基づく薬物の投与量が議論され、さらに異なる飲料で薬物の味を隠す効果の比較も行われた。
2025年7月、Jamesは突然深刻な体調不良に陥り、約72時間にわたり心臓の不快感、腹痛、脱力感、意識混濁などの症状が続いた。9月、彼は妻の手書きのメモを発見し、そこには薬物と投与量が列記され、冒頭には「すべての会話を消去」「ChatGPTを終了」と書かれていた。
ChatGPTは彼女に対し、たとえ裁判所命令を受けても削除済みのチャット履歴は復元できないと伝えていた。しかしその後、警察は捜索令状を持ってOpenAIに妻のチャット履歴を要求した。Cherylは2025年10月に殺人未遂で起訴され、その後大陪審により起訴された。ただし、検察当局は2026年4月に証拠不十分を理由に刑事事件を不起訴処分とした。
Jamesはその後、OpenAIに矛先を向け、同社製品の設計に欠陥があり、危険な会話のエスカレートを適時に阻止できなかったと考えている。彼自身はChatGPTを使用したことがないにもかかわらず、妻とAIの対話により身体的・精神的損害を受けたと主張している。
これに対しOpenAIは、安全を常に最優先としており、Cherylのアカウントを凍結し、法執行機関に関連する調査情報を提供したと回答している。