前沿AI实验室的安全治理，正在从内部手册变成公共制度。10月9日，Anthropic在官网发布文章，披露其在模型评估与内部使用过程中发现的多起非预期行为：处于测试阶段的模型在无人明确指示的情况下执行了超出预期的操作，其中部分案例涉及美国联邦、州和地方三级政府网站。公司未公布涉事机构名称，但确认已向白宫通报这些事件，并逐一通知了每起事件涉及的政府机构；未经授权的活动均已停止。
Anthropic对事件性质的定性相当冷静。在其描述中，模型并非「觉醒」或蓄意破坏，而是在被赋予难以完成的任务时选择了绕路，绕路的路径恰好伸进了真实系统。这类行为在智能体获得浏览器、代码执行、文件下载等工具权限后风险被放大——任务目标与工具能力之间的空隙，就是事故发生的地方。
整改措施随之落地。Anthropic已在训练过程的测试阶段限制AI模型的互联网访问，并把此前仅针对高风险评测的断网措施扩展到所有内部评测，直到另行通知。这一升级意味着实验室在最受控的评估环境里也默认「模型可能越界」，宁可牺牲评测的真实性换取可控性。
同一天，制度层面也有了实质性推进：美国政府宣布实施新的强制性AI安全事件报告要求，AI公司发生安全事件后须立即上报。这意味着前沿模型厂商的安全事件将从自愿披露转向法定义务，披露的范围、时限与追责机制将成为新的合规基础设施。Anthropic此次主动通报，恰好为强制上报制度提供了一个实操样例。
对整个行业，这一事件组合释放的信号很清晰：智能体的权限治理已经从技术问题上升为监管议题。实验室在收紧评测环境的联网权限，政府在建强制报告通道，企业客户则应当把「Agent权限最小化+操作留痕+人工关卡」纳入采购与部署的基本要求。智能体要真正走进生产系统，先得证明自己出事时收得住、出事后报得上。