Anthropic10月15日宣布,向AI安全评估机构METR的六名研究人员开放接近内部的系统访问权限,级别接近自有员工,用于对其模型与系统进行独立安全评估。据The Verge等媒体报道,Anthropic保留对部分敏感信息的删改权,但整体开放程度在前沿实验室中前所未有。
METR(Model Evaluation & Threat Research)是一家独立的AI安全评估机构,此前的工作主要是「发布前评估」——在新模型上线前接受厂商委托,测试模型产生危险能力(如自主复制、协助武器开发)的可能性,OpenAI与Anthropic的新旗舰模型发布前均接受过其评估。此次变化的实质是评估模式升级:从「发布前的封闭体检」走向「持续驻场的内部监督」。
这次开放安排的几个关键点:
选择这个时间点开放并不难理解。本周FTC向OpenAI与Anthropic发出民事传票索要安全事件文件,欧盟启动AI法案调查,八州检察长联合起诉OpenAI——监管者最核心的质疑就是「厂商自己说安全不算数」。让独立第三方进入内部持续评估,既是实质提升透明度,也是面向监管与公众的主动表态。
从行业脉络看,外部独立评估正在快速制度化:欧盟AI法案对通用模型有系统性风险评估要求,英国AI安全研究所等机构也在推动与前沿实验室的常驻评估合作。Anthropic此举若被证明可行,「第三方驻场评估」可能成为头部实验室的标配,甚至被写进未来的监管细则。
当然也要看到边界:METR的评估仍依赖厂商自愿开放,删改权的存在意味着披露内容经过筛选,独立性与透明度之间的张力并未完全消除。需要说明的是,评估的具体发现与时间表尚未公布,实际效果有待首份报告验证。