Anthropicはゼロ知識証明技術をAI推論に応用し、モデルの「すり替え」を防止します。

AnthropicはFlashProveをオープンソース化し、暗号通貨分野で一般的に使用されるzkSNARK（ゼロ知識証明）技術をAIモデル推論に移行しました。

この技術は本来、取引の詳細を公開することなくブロックチェーン取引の有効性を証明することができます。Anthropicはこれを使って別の問題を解決しようとしています：ユーザーが高額で購入したAIモデルのAPIが、サービスプロバイダーによって安価なモデルにこっそりと変更されていないかどうかを確認する方法です。

FlashProveは、サービスプロバイダーがモデルの重みの暗号化フィンガープリントを生成し、その後推論結果に数学的証明を提供することを可能にします。ユーザーはモデルの重みを取得する必要もなく、モデルを再実行することなく、指定された出力が事前に約束された重みのセットから来ているかどうかを確認できます。Claudeもこのシステムの開発と最適化に参加しました。

AnthropicはすでにMetaの4000億パラメータモデルLlama 4 Maverickで実験を完了しています。1024トークンのコンテキストを処理するごとに生成される証明は約19MBで、通常のCPUでの検証には約17秒かかります。

ただし、現在のところ各証明は1つの出力トークンしか検証できず、全体の回答を検証することはできません。証明生成に必要なGPU計算時間は、通常の推論の約70～95倍に達しています。今後、これを利用してこっそりとモデルを変更したAPIサービスプロバイダーを見つけ出せるかどうかは、証明コストがいつ下がるかにかかっています。