XNews

Anthropic发布FlashProve,实现AI推理的零知识证明

Anthropic发布了FlashProve,这是一个研究原型,允许AI提供商在不泄露模型权重的情况下证明是哪个模型回答了请求。该系统以完整规模运行Llama 4 Maverick,单块H100 GPU以约110个token/秒的速度生成证明,每个1024 token请求的证明大小约为19 MB。Anthropic以Apache 2.0许可证开源了代码、Lean证明和文档。

事件版本 1.

Key insights

承诺、证明、验证

提供商发布一个承诺ID,将其绑定到一组权重上,这些权重保持秘密。对于每个回复,提供商的GPU生成一个证明,证明该回复是已承诺模型的输出,任何人都可以在普通CPU上使用cp_verify在几秒钟内验证该证明,而无需权重。

大型模型上的性能

对于Llama 4 Maverick(一个400B参数的专家混合模型),单块H100 GPU以约110个token/秒的速度生成证明,每个1024 token请求的证明大小约为19 MB,使用4位量化权重和预填充中的整数算术。这大约是使用vLLM运行模型本身的GPU时间的70-95倍。

Lean中的形式化验证

Anthropic在Lean中为所声称的安全保证提供了顶层的可审计陈述,以及顶层数学陈述的Lean证明和Lean定理的交互式可视化工具,以帮助审计。

发布的五个工件

Anthropic发布了一篇博客文章,概述了该系统及其应用、一份技术报告、一份协议规范文档、包括一个证明者和两个验证者的可执行代码,以及Lean证明。代码、Lean证明和文档均在Apache 2.0许可证下发布。

声明的应用和限制

这些证明可以使攻击者更难劫持聊天,并使安全评估人员能够验证他们正在测试的模型与提供给客户的模型是同一个。承诺和推理证明隐藏了模型的权重,但隐藏模型的架构并不是该系统的目标。

Source posts