XNews

Anthropic、AI推論のゼロ知識証明向け「FlashProve」を公開

Anthropicは、AIプロバイダーがモデルの重みを明かすことなく、どのモデルがリクエストに応答したかを証明できる研究プロトタイプ「FlashProve」を公開した。このシステムはLlama 4 Maverickをフルサイズで実行し、単一のH100 GPUで毎秒約110トークンの証明を生成、証明サイズは1,024トークンのリクエストあたり約19MBである。Anthropicはコード、Lean証明、ドキュメントをApache 2.0ライセンスの下でオープンソース化した。

イベントのバージョン 1.

Key insights

コミット、証明、検証

プロバイダーは、自身を一連の重みに紐付けるコミットメントIDを公開し、重みは秘密に保たれる。各応答について、プロバイダーのGPUはその応答がコミットされたモデルの出力であることを証明する証明を生成し、誰でも重みなしでcp_verifyを用いて通常のCPUで数秒以内に証明を検証できる。

大規模モデルでの性能

400BパラメータのMixture of ExpertsであるLlama 4 Maverickについて、単一のH100 GPUが毎秒約110トークンで証明を生成し、証明サイズは1,024トークンのリクエストあたり約19MBであり、4ビット量子化重みとプレフィルでの整数演算を使用している。これはvLLM上でモデル自体を実行するGPU時間の約70〜95倍である。

Leanによる形式検証

Anthropicは、主張されたセキュリティ保証についてLeanでトップレベルの監査可能なステートメントを提供し、トップレベルの数学的ステートメントのLean証明と、監査を支援するLean定理のインタラクティブなビジュアライザーも提供した。

公開された5つの成果物

Anthropicは、システムとその応用を概説するブログ記事、技術レポート、プロトコル仕様書、プロバーと2つの検証器を含む実行可能コード、およびLean証明を公開した。コード、Lean証明、ドキュメントはApache 2.0ライセンスの下で公開されている。

明示された応用と限界

これらの証明は、攻撃者がチャットを乗っ取ることを困難にし、安全性評価者がテストしているモデルが顧客に提供されているものと同じであることを検証できるようにする。コミットメントと推論証明はモデルの重みを隠すが、モデルのアーキテクチャを隠すことはこのシステムの目標ではない。

Source posts