データを残さないと言っておきながらこっそり保存していた？Fireworksがハッキングされ、Notion AIのチャット記録が流出

動察 Beating AI速報、AI推論・モデルトレーニングプラットフォームFireworksのデータ漏洩事件に新たな進展。Notionは、ハッカーが一部のNotion AIユーザーの実際のチャット履歴を入手したことを確認した。これにはユーザーが提出した質問とAIが生成した回答が含まれる。影響を受けたワークスペースは全体の1%未満である。

これらのチャット履歴はNotionのInsights機能に由来する。NotionはユーザーとAIの対話をFireworksに渡して分析させ、企業管理者が従業員によるAIの利用状況を把握できるようにしている。

Notionによると、Fireworksは契約上これらのデータを保持しないことを約束していた。しかし調査の結果、Fireworksは実際には一部のチャット内容を保存しており、最終的にハッカーに取得された。

11月2日、Fireworksは当初Notionに対し、影響を受けたのはテスト用の架空データのみと通知した。Notionは直ちに11月3日にFireworksとの接続を切断した。11月8日になって、Fireworksは実際の顧客データにもアクセスがあったことを追加確認した。

Notionは、漏洩したチャット履歴の绝大多数にはユーザー名、企業名、ワークスペース情報が付随していないが、会話自体に営業秘密やパスワードなどの機密内容が含まれている可能性があると述べている。同社は影響を受けた顧客に通知し、チャット履歴の確認と、漏洩の可能性があるパスワードやAPIキーの変更を推奨している。

現在、NotionはInsights機能を停止し、Fireworksを通じたオープンソースAIモデルの提供も行っていない。同社は他のAIサービスプロバイダーが顧客データを保持しないという約束を実際に遵守しているかどうかを確認している。