7.5
深览指数
科技智东西··AI 生成
17秒验明AI“真身”！Anthropic开源可证明推理系统，能抓模型调包
Anthropic开源FlashProve，用zkSNARK为零知识证明模型推理确实由承诺权重计算，用户仅凭CPU即可核验输出是否来自所购模型，防止API服务商偷换模型或篡改回答。测试基于Llama 4 Maverick：单张H100生成约19MB证明，24线程CPU核验约17秒。相比VerInf的93.6GB/17.7小时，文件与耗时大幅下降。但生成证明的GPU开销是普通推理的72-95倍，上下文仅支持1024 Token，且批量处理与可执行代码的零知识性尚未形式化证明，目前仍是需服务方配合的研究原型。原文 ↗
核心观点
- ▍FlashProve用zkSNARK让用户在不获取模型权重的情况下，以极低开销独立核验API输出是否由指定模型计算，可抓模型调包与回答篡改。
- 01在Llama 4 Maverick上测试：单张H100生成证明约58秒，单个请求证明文件约19MB，24线程CPU核验约17秒，无需GPU；批处理24请求时总耗时约223秒。
- 02对比开源系统VerInf：后者为1000个Token生成证明需14.3小时、文件93.6GB、20核CPU核验17.7小时，FlashProve在文件大小和核验耗时上大幅领先。
- 03利用MoE稀疏激活（每Token仅激活4000亿参数中的170亿）只记录实际运行的专家，分段加载约232GB权重到GPU，批处理最多64请求共享查询数据，降低证明开销。
- 04生成证明的GPU时间开销约为vLLM普通推理的72-94倍，采用事后证明方式，用户可能先收到恶意回答再发现篡改，已泄露信息无法撤回。
反方 / 局限
- — 上下文窗口仅支持1024个Token，且验证的是整数模型贪心解码结果，实际浮点推理或采样解码可能输出不同，发现不一致时需区分计算差异与篡改。
- — 高性能可执行代码与Lean协议的形式化等价性尚未证明，批量处理请求的零知识性也未完成形式化证明，目前仍是需服务方配合的研究原型。
- — 证明只能说明推理确实发生，不能排除企业同时训练其他模型，用于监管AI算力用途时存在根本盲区。
14 分钟 · 2 卡片 · 4 资料
读原文 →