↑

Anthropic开源研究原型FlashProve:用密码学证明「输出真的来自某模型」

PromptTree|阅读 1
2026/11/04 10:29
AnthropicFlashProve模型验证密码学AI安全
Anthropic发布开源研究原型FlashProve,试图为模型输出提供密码学意义上的「可证明推理」,让用户验证回答来自声称的模型;实验室可发布不泄露权重的指纹,目前明确为中间进展、无意立即部署。

当云端API可以偷换模型,用户怎么知道自己买到的是不是「Frontier」?Anthropic周二公开研究原型FlashProve,目标是「可证明推理」(provable inference):用密码学证明,某段输出确实来自特定模型,类似电子邮件签名确认发件人。

设计上,实验室为每个发布模型公布「指纹」,之后可与具体输出做密码学匹配;指纹不暴露权重,从而兼容闭源商业模型。研究者举例:防止厂商偷偷换成更便宜模型省钱,或换成更贵模型刷榜;也可验证第三方声称「已用某网络安全前沿模型扫过漏洞库」。系统被描述为轻量,验证可在本地设备完成;技术规格与部分代码已开源到GitHub。

Anthropic同时划清边界:这是中间进展分享,不是完成的研究议程,也没有在本公司或其他实验室部署的计划,希望社区接过改进。对采购和企业合规,FlashProve若成熟,可能成为「模型供应链」的验真层——就像软件要SBOM,模型输出也要可核验出处。短期仍处研究原型,别把博客当成产品SLA。