当一线研究者自己喊「该学会踩刹车」时,治理辩论就不再只是外部批评者的事。
「Pacing the Frontier」是一项由科技公司员工发起的联署倡议,获非营利机构Guidelight AI Standards与Encode AI等支持。背景是前沿实验室竞相推进更强系统,担忧能力迭代可能快过安全评估、治理与社会准备速度——尤其是递归自我改进(模型帮人改进模型,速度可能失控)成为公开议题之后。
7月28日,来自Meta、Anthropic、OpenAI、Alphabet旗下谷歌等公司的逾1100名员工联署,敦促美国政府支持建立国际机制与技术工具,以便在必要时有意放缓前沿自动化AI研发节奏。联署人包括Anthropic首席执行官Dario Amodei及多位联合创始人、Meta人工智能研究副总裁、OpenAI首席科学家Jakub Pachocki等。
OpenAI回应称,未来前沿模型研发加速可能高到世界需要「为AI进步定速」。Anthropic则指向其关于递归自我改进的研究,强调社会需要准备时间;该公司此前也曾公开讨论:若风险上升,主要实验室需要可协调的暂停或减速方案。
所谓「定速」,不是今天立刻全局停训,而是先把「必要时能一起慢下来」的工具与治理接口造出来——技术上可能涉及评估阈值、发布门槛、跨境协调;政治上则极难,因为减速对谁更痛、谁先停,本身就是竞争问题。
没有跨境协调,单方面减速等于把下一轮能力让给没有停下来的实验室;没有评估阈值和发布门槛,定速就只是态度,无法执行。倡议把这两件事一起交给美国政府,而不是只要求某一家公司自觉。Guidelight AI Standards与Encode AI是支撑联署的非营利机构,它们不替代监管部门,只是把员工的政策请求组织成可公开的文本。
「加速」与「可控」的张力,已经从实验室内部争论进入公开政策请求。观察点有二:华盛顿会不会把定速工具写进联邦审查框架;以及联署会不会被简化成「内部的人自己也怕」,反过来成为抬高准入、把开放研究挡在门外的论据。研究者要的刹车,和把规则写成少数机构的门票,不是同一个政策。