Anthropic 开源 FlashProve:给大模型发一张「防伪身份证」
你花钱调用的那个模型,真的是服务商承诺的模型吗? 这个问题听起来有点阴谋论,但在多层中转、聚合平…
文章目录
你花钱调用的那个模型,真的是服务商承诺的模型吗?
这个问题听起来有点阴谋论,但在多层中转、聚合平台和第三方路由越来越普遍的今天,它已经变成一个现实的工程问题。服务商完全可以在后台把昂贵的大模型换成便宜的小模型,用户看到的只是回答质量有一点波动,却拿不出任何证据。
Anthropic 给出的解法,是一套叫 FlashProve 的开源系统。它基于零知识证明,让模型提供商在不公开权重的前提下,证明某段回答确实由指定模型生成。
一分钟速览
- FlashProve 用密码学承诺加零知识证明,验证「回答来自哪个模型」,不泄露权重。
- 在 4000 亿参数的 Llama 4 Maverick 上测试,单张 H100 每秒可生成约 110 个 Token 的证明。
- 每 1024 Token 请求的证明文件约 18.78 MB;24 线程 CPU 验证一份约需 17 秒。
- 证明生成的 GPU 时间约为普通推理的 72 至 94 倍,目前仍是研究原型。
- 代码、C++ 与 Lean 验证器、形式化证明均已开源,采用 Apache 2.0 许可证。
它到底证明了什么
FlashProve 的核心不是「证明回答正确」,而是「证明回答来源」。流程可以拆成三步:模型服务商先为一组确定的权重生成密码学承诺,相当于给这个模型版本打上一个不可篡改的指纹;用户发起请求后,服务商在返回回答的同时附上一份零知识证明;用户用承诺、输入、回答和证明,就能独立验证这次推理确实由那个权重完成。
整个过程不需要用户拿到权重,也不需要用户自己重跑一遍模型。这一点很关键:模型权重是AI公司最核心的资产,任何要求「把权重交出来验一验」的方案都不现实。零知识证明的价值,正是在「不看不该看的东西」的前提下,确认该确认的事实。
4000 亿参数,110 Token/s
过去,零知识机器学习大多停留在小模型上,参数一上来,证明成本就会失控。Anthropic 这次选了一个硬骨头:Meta 的 Llama 4 Maverick,总参数 4000 亿的混合专家模型,每个 Token 实际激活约 170 亿参数。
在单张 NVIDIA H100 上,FlashProve 的证明生成吞吐约为每秒 110 个 Token,每份证明约 18.78 MB。验证端不需要 GPU,24 线程 CPU 验证一份证明约 17 秒。这个速度还不足以支撑「每个请求都实时出证」,但已经从「学术演示」走到了「工程可行」的边缘。
效率提升主要来自两处针对 MoE 的优化:证明计算围绕实际激活的专家展开,而不是每次处理全部参数;推理完成后再批量生成证明,减少重复计算。换句话说,它没有试图把整个模型塞进证明电路,而是只证明「这次真正跑过的那部分」。
代价与边界
Anthropic 自己把限制写得很清楚。首先是成本:生成证明所需的 GPU 时间,约为普通 vLLM 推理的 72 到 94 倍。如果每个请求都要出证,服务成本会明显上升,短期内只适合高价值、低频率的场景,比如合规审计、模型供应链核验、医疗或金融决策留痕。
其次是计算形式。当前实验针对整数运算版本的模型和贪婪解码,浮点计算、随机采样等常见推理方式还需要扩展。上下文长度也停在 1024 Token,长上下文、多轮 Agent 工作流如何高效证明,仍是开放问题。
最后是语义边界。FlashProve 证明的是「这份回答由这个模型生成」,不是「这份回答是对的」。如果模型产生幻觉,证明依然可以成功。它解决的是身份与推理完整性问题,不是能力与事实准确性问题。这一点如果被误读,反而可能给「有证明所以可信」的错觉。
为什么现在需要「模型身份证」
模型调用链正在变长。企业通过云厂商调用,云厂商再经路由平台分发,路由平台背后可能还有多个推理服务商。每一层都可能出于成本考虑做替换,而用户只能看到最终的文本。监管层面,模型备案、内容溯源、安全评估都要求「测试对象就是部署对象」,没有密码学证明,评估结论很容易落空。
FlashProve 提供的是一种新的交付物:除了回答和 Token 账单,未来可能还会多一份证明文件。它不会自动建立信任,但把「信不信由你」变成了「验不验由你」。对正在冲刺 IPO、又高度依赖企业客户的 Anthropic 来说,这套叙事既能讲安全,也能讲合规。
趋势洞察
可验证推理大概率不会以「每个请求都带证明」的形态普及,而是分层出现:高风险场景强制出证,普通对话按需抽样,平台之间用承诺做批量对账。真正值得关注的不是 110 Token/s 这个数字,而是它把「模型身份」变成了一个可以工程化交付的接口。
当模型越来越像基础设施,身份、计量和审计就会像电表和水表一样成为配套。FlashProve 只是第一块表,接下来要补的,是更低的证明成本、更长的上下文,以及跨厂商的验证标准。
本文地址:https://www.163264.com/19032
