当云端API可以偷换模型,用户怎么知道自己买到的是不是「Frontier」?Anthropic周二公开研究原型FlashProve,目标是「可证明推理」(provable inference):用密码学证明,某段输出确实来自特定模型,类似电子邮件签名确认发件人。
设计上,实验室为每个发布模型公布「指纹」,之后可与具体输出做密码学匹配;指纹不暴露权重,从而兼容闭源商业模型。研究者举例:防止厂商偷偷换成更便宜模型省钱,或换成更贵模型刷榜;也可验证第三方声称「已用某网络安全前沿模型扫过漏洞库」。系统被描述为轻量,验证可在本地设备完成;技术规格与部分代码已开源到GitHub。
Anthropic同时划清边界:这是中间进展分享,不是完成的研究议程,也没有在本公司或其他实验室部署的计划,希望社区接过改进。对采购和企业合规,FlashProve若成熟,可能成为「模型供应链」的验真层——就像软件要SBOM,模型输出也要可核验出处。短期仍处研究原型,别把博客当成产品SLA。