↑

Anthropic向安全评估机构METR开放员工级系统访问

PromptTree|阅读 0
2026/10/16 08:48
AnthropicMETRAI安全第三方评估
Anthropic宣布向METR六名研究人员开放接近员工级别的系统访问权限用于独立安全评估,并保留部分敏感信息删改权,系前沿实验室首次开放此类级别访问。

Anthropic10月15日宣布,向AI安全评估机构METR的六名研究人员开放接近内部的系统访问权限,级别接近自有员工,用于对其模型与系统进行独立安全评估。据The Verge等媒体报道,Anthropic保留对部分敏感信息的删改权,但整体开放程度在前沿实验室中前所未有。

METR(Model Evaluation & Threat Research)是一家独立的AI安全评估机构,此前的工作主要是「发布前评估」——在新模型上线前接受厂商委托,测试模型产生危险能力(如自主复制、协助武器开发)的可能性,OpenAI与Anthropic的新旗舰模型发布前均接受过其评估。此次变化的实质是评估模式升级:从「发布前的封闭体检」走向「持续驻场的内部监督」。

这次开放安排的几个关键点:

  1. 访问级别接近员工,意味着评估者可触及内部系统而非仅限对外API;
  2. 首批为六名研究人员,规模可控且签署严格协议;
  3. Anthropic保留对部分敏感信息的删改权——开放是有边界的,商业机密与用户数据仍受保护;
  4. 评估结果预计将用于改进安全措施,部分内容可能对外披露。

选择这个时间点开放并不难理解。本周FTC向OpenAI与Anthropic发出民事传票索要安全事件文件,欧盟启动AI法案调查,八州检察长联合起诉OpenAI——监管者最核心的质疑就是「厂商自己说安全不算数」。让独立第三方进入内部持续评估,既是实质提升透明度,也是面向监管与公众的主动表态。

从行业脉络看,外部独立评估正在快速制度化:欧盟AI法案对通用模型有系统性风险评估要求,英国AI安全研究所等机构也在推动与前沿实验室的常驻评估合作。Anthropic此举若被证明可行,「第三方驻场评估」可能成为头部实验室的标配,甚至被写进未来的监管细则。

当然也要看到边界:METR的评估仍依赖厂商自愿开放,删改权的存在意味着披露内容经过筛选,独立性与透明度之间的张力并未完全消除。需要说明的是,评估的具体发现与时间表尚未公布,实际效果有待首份报告验证。