Anthropic 开源可证明推理系统 FlashProve

智东西 编译 | 孙小雯 编辑 | 程茜 智东西11月4日消息，今天凌晨，Anthropic 开源大模型可证明推理系统FlashProve，详细技术报告于11月2日发布 。服务商可通过该系统为模型回答生成密码学证明，用户无需获取模型权重或自行运行大模型，就能在CPU上核验输出是否符合指定模型的计算结果。 模型调用API的机制类似黑箱，发送提示词后，用户仅能查看生成的Token，但无法验证为自己提供服务的是否为所选模型。此次开源的FlashProve旨在解决这一问题， 上可抓“模型掉包”，下可验“回答篡改” ，还可为监管机构提供监测服务商和企业AI使用合规性的渠道 。 该模型一经发出，X上的外网网友就火速贡献梗图。 ▲X上网友评论：FlashProve揭开面具，旗舰模型竟是廉价模型（图源：X） 根据Anthropic公布的测试结果，FlashProve已在Meta发布的4000亿参数模型Llama 4 Maverick上完成测试，使用单张H100 GPU生成证明，单个请求的证明文件约19MB， 用户端使用24线程CPU核验约需17秒 ，无需GPU 。 此前，开源系统VerInf也曾为Llama 4 Maverick生成证明。据其公布的测试结果，在单台DGX Spark上，为1000个Token的前向计算生成证明约需14.3小时，证明文件达93.6GB， 使用20个CPU核心核验约需17.7小时 。 虽然两项测试的硬件与证明任务设置不同，但从各自公布的结果来看， FlashProve的证明文件更小，用户端核验耗时也大幅缩短 。 不过，FlashProve目前仍是需要服务方配合的研究原型，生成证明的GPU时间开销 约为普通推理的70—95倍 。也有网友疑虑：谁会愿意为此高昂价格付费？ ▲X上网友的评论（图源：X） FlashProve的核心技术是 零知识简洁非交互式知识论证（zkSNARK） ，即在不额外泄露模型权重信息的情况下，用户可以用较小文件、较低开销，独立核验推理过程的正确性。 ▲证明系统的完备性、可靠性、简洁性与零知识性（图源：Anthropic） Anthropic此次同步公开了技术报告、协议规范、证明生成器、C++与Lean两种验证器以及用Lean编写的形式化证明。其中，代码、Lean证明和文档均以Apache 2.0许可证开源。 Anthropic透露，Claude也参与了用于推理的zkSNARK技术优化。此次FlashProve的开源旨在 展示当前可证明推理技术的阶段性进展 ，供其他研究者复现和改进。 ▲FlashProve开源主页（图源：Github） 开源地址： https://github.com/anthropics/FlashProve 一、单张H100可批量生成24份证明，耗时不到四分钟 FlashProve的运行分为 离线准备和在线证明 两个阶段，由模型服务方准备权重承诺、生成证明，再由用户通过验证器核验。 据技术报告介绍，离线阶段，服务方先对模型权重进行编码，生成密码学承诺。密码学承诺相当于为一组权重建立“指纹”，后续证明均与这份承诺绑定，确保核验对应同一组权重。 ▲FlashProve离线准备流程（图源：Anthropic） 在线阶段，服务方根据输入和待检查输出，记录模型推理中的计算轨迹，包括矩阵乘法、取整、非线性运算等，再生成证明，说明这些运算使用了承诺中的权重，并按指定规则得到了相应输出。 用户持有权重承诺、输入、输出及对应证明，就可以通过验证器检查输出是否符合这组权重的计算结果。这份密码学证明同时具有 零知识性（Zero knowledge）和简洁性（Succinctness） ：前者使证明不额外泄露权重、中间计算值和专家选择等信息，后者让客户端以远低于自行运行模型的计算开销完成核验。模型架构本身不隐藏。 ▲FlashProve在线证明与核验流程（图源：Anthropic） 在Llama 4 Maverick测试中，离线准备耗时约39分钟，服务方保存约2.15GB文件。客户端首次下载权重承诺、离线证明及一个链接证明，共6.24MB。这些准备工作可以复用，之后再为每个请求下载证明文件。 在降低证明开销方面， FlashProve主要从模型结构、显存使用和批处理三方面进行优化 。 Llama 4 Maverick采用 混合专家（MoE）架构 ，每个MoE层从128个路由专家中选择1个运行，另有1个共享专家。因此，每个Token约激活4000亿参数中的170亿。FlashProve只在计算轨迹中记录实际运行的专家及其选择，使相应证明工作量随激活参数规模变化，同时核验路由器是否选对专家。 ▲FlashProve利用MoE稀疏激活减少证明计算，同时检查路由选择，并隐藏实际运行的专家（图源：Anthro

来源只提供摘要，完整内容请打开原文。