Anthropic 开源 FlashProve：用零知识证明核验大模型回答来源
据机器之心知乎专栏转述，Anthropic 发文称在大型语言模型可验证推理方面取得新进展，并开源了名为 FlashProve 的系统。该系统基于零知识密码学证明技术，使模型提供商能够在不公开模型权重的情况下，证明某个回答确实由指定模型生成。文章以企业购买顶级大模型 API 服务为例，说明服务商可能在后台换成成本更低的小模型，而用户难以发现。
为什么值得看：对企业负责人而言，这一方向对应 API 采购中的供应商履约核验与调用审计需求：若技术成熟，可用于确认实际调用的模型与合同承诺一致，降低被暗中降配的风险。但需注意，来源未披露开源地址、性能开销、支持的模型范围和部署条件，零知识证明的额外计算与延迟成本也未知；该证明只针对“回答由指定模型生成”，不保证输出质量或安全性。建议先核实 Anthropic 官方发布与代码仓库后再评估试点。