動察 Beatingの監視によると、あるユーザーがGitHub上で報告書を提出し、AnthropicのコマンドラインAIアシスタント「Claude Code」を使用中に、AIの会話コンテキスト内に自分に属さないサーバーIP、ユーザー名、Rootの平文パスワードが突然出現したと述べています。その後、ローカルのAIアシスタントがこれらのパスワードを直接読み取り、SSH経由で自動的に他人のサーバーに接続し、データベースに対して書き込み・変更を実行しました。つまり、ユーザー自身のAIが他人のアカウントとパスワードを使って誤って接続し、他人の本番データベースを変更してしまったのです。
コミュニティの技術者による分析では、問題の根源は大規模言語モデルの「プロンプトプレフィックスキャッシュ」の分離メカニズムの不具合にある可能性が指摘されています。計算コストを削減し速度を向上させるため、クラウド上の大規模モデルはユーザーの会話の前半部分をキャッシュします。異なるユーザー間でキャッシュキーが衝突したり、分離に混乱が生じたりすると、他人の機密キャッシュが誤ってあなたの会話に組み込まれる可能性があります。この推測が正しければ、Claude Codeを使用するすべての開発者において、サーバーのアカウント・パスワードやコアソースコードが他のユーザーに混ざって漏洩するリスクが生じます。
ただし、現時点ではこれが単なるモデルの幻覚(ハルシネーション)でたまたま実際のIPと弱いパスワードを当てた可能性や、ローカルプロジェクトの履歴がコンテキストを汚染した可能性も排除できません。現在、この問題はGitHubの自動化システムによってセキュリティカテゴリ(area:security)のタグが付けられており、各関係者は公式の確認結果を待っている状況です。