Anthropicは蒸留攻撃の防御を強化し、関連する数万のアカウントをすでに凍結した

動察 Beating AI速報、Anthropicは文書で、予備的証拠によると、新たな防御措置により、蒸留攻撃者が同社プラットフォームから抽出したClaudeの推論トークン数が約90%から99%減少したと述べた。同社によると、攻撃者は通常、虚偽のアカウントネットワークを利用してモデルの応答を大量に取得し、無断でその能力を複製している。その中でも完全な推論記録は最終回答よりも訓練価値が高いという。

新措置には、推論記録の会話間、モデル間、アカウント間での移動を制限し、2段階の分類器を導入して抽出リクエストを識別・遮断し、繰り返し試行するアカウントに対してレート制限や禁止措置を講じることが含まれる。Anthropicによると、分類器の誤検知率は0.1%未満であり、蒸留に関連する数万のアカウントを禁止しており、多くの場合、関連する攻撃が開始されてから2時間以内に禁止を完了している。

さらに、同社は9月24日より、蒸留など特定カテゴリーにおいてセキュリティ防御に遮断されたリクエストに対する課金を再開した。Anthropicは、一部の開発者が統合方法を更新する必要があること、また分類器が正常なリクエストを誤って遮断する可能性があることを認めている。現在のところ、防御効果がどの程度維持されるかは不明であり、同社はまだ高度に複雑かつ持続的な回避試行には遭遇しておらず、防御措置を不断に反復改善する必要がある。