↑

Anthropic在修订招股书中警示:或已接近递归自我改进阈值

PromptTree|阅读 1
2026/11/03 09:49
AnthropicRSIS-1模型安全Responsible Scaling Policy
Anthropic在修订后的S-1A中新增表述称,内部估计表明公司或即将达到Responsible Scaling Policy中「由AI导致的显著加速进展」定义;同时强调当前模型尚未越过该阈值,并考虑更新政策以保持人类对前沿研发的控制。

招股书里的财务数字吸睛,但Anthropic修订后的S-1A还有另一枚「细字炸弹」:公司似乎认为自己正接近递归自我改进(RSI)能力——也就是AI在训练与研发中变得足够强,以至于能力跃升可能急剧加速。

文件风险因素部分新增表述称,越来越多地用AI加速自身研发,可能导致模型能力推进快于安全、对齐与安保措施的验证与落地;过去曾出现「显著加速已经发生却未能及时识别」的情况。内部估计针对未来模型而非当前模型,显示「或即将满足Responsible Scaling Policy中『由AI导致的显著加速进展』定义」。公司同时写明:尚未把任何现有模型标为越过该阈值,并继续评估底层数据。

Anthropic还表示,即便技术上可能出现「Claude近乎自主设计下一代前沿模型」的能力,也不预期在缺少有意义的人类监督与理解时安全使用;正考虑更新RSP,以保持人类对前沿模型研发的控制。据TechCrunch报道,S-1兼具披露与叙事功能,接近RSI的表述也可能被解读为营销;但结合Claude在编码、数学与网络安全上的跃升,监管与产业侧更可能选择「宁可信其有」。

对读者而言,关键不是「奇点到了」,而是Frontier实验室开始把「AI加速AI」写成可触发的内部阈值与治理义务。若RSP更新落地,市场会盯:阈值如何测量、触发后停什么、披露给谁。