Anthropicが暗号資産業界のゼロ知識証明をAI推論に導入し、モデルが密かに「すり替え」られるのを防ぐ

動察 Beating AI 速報、Anthropic が FlashProve をオープンソース化し、暗号資産分野でよく使われる zkSNARK（ゼロ知識証明）技術を AI モデルの推論に持ち込んだ。

この技術は本来、取引の詳細を公開せずにブロックチェーン取引の有効性を証明できるものだった。Anthropic はこれを使って別の問題を解決しようとしている。ユーザーが高額を払ってある AI モデルの API を購入したとき、サービス提供者がこっそり安価なモデルに差し替えていないかをどうやって知るのか、という問題だ。

FlashProve は、サービス提供者にまずモデルの重みの暗号化フィンガープリントを生成させ、次に推論結果に対して数学的証明を提供させる。ユーザーはモデルの重みを取得する必要も、モデルを再実行する必要もなく、指定した出力が事前にコミットされた重みの組から来たものかどうかを検査できる。Claude もこのシステムの研究開発と最適化に参加した。

Anthropic はすでに Meta の 4000 億パラメータモデル Llama 4 Maverick で実験を完了している。1024 トークンのコンテキストを処理するごとに、生成される証明は約 19 MB で、通常の CPU での検証には約 17 秒かかる。

ただし、現在は証明 1 件につき出力トークン 1 個しか検証できず、回答全体を検証することはまだできない。証明生成に必要な GPU 計算時間も、通常の推論の約 70～95 倍に達する。今後、これによってモデルをこっそり差し替える API サービス提供者を暴けるかどうかは、証明コストがいつ下がるかにかかっている。