Anthropic正在推动一项AI安全立法提案，核心条款可以用一句话概括：如果某模型的部署可能造成50人以上死亡，那么该模型可以被要求阻断部署。据TechCrunch报道，提案的具体文本尚未完整公开，但这条阈值已经足够引发讨论。
先看它在做什么。灾难性风险一直是AI讨论中最难以落地的概念——所有人同意要防，但没人说得出防线在哪。Anthropic这次的做法，是把一个抽象判断压缩成一个可操作的数字：50人。这个动作的意义不在于数字本身的精确，而在于它试图把"什么时候必须停下来"从企业内部的道德判断，变成法条里写明的义务。
为什么这家公司要做这件事？Anthropic的自我定位一直是"把安全当作产品的一部分"，在美国的政策层面动作也很频繁，此前已就前沿模型透明度、外部评估、算力采购披露等议题公开表态过立场。此次把死亡人数作为量化门槛，是这条路线向立法层面的自然延伸——它想要的不是自己承诺什么，而是让所有同行都被同一条线约束。
这套想法的吸引力在于可执行性。模糊的义务无法问责，而一条明确的数字线至少让"是否越线"成为可以辩论、可以举证、可以在法庭上讨论的问题。对于担心监管机构缺乏技术判断力的从业者而言，把阈值写进法条反而比留给监管者自由裁量更可预期。
但难点同样明显，第一个就是因果判定。模型的输出与人身伤亡之间通常隔着多个环节——有人提问、有系统调用、有下游部署者的决策、还有其他环境因素。要在事前预测某个部署会不会越过阈值，目前缺乏成熟方法论。这让执法者要么依赖事后追责，要么依赖模型厂商的申报材料，而两者都不完美。
第二个难点是豁免边界。医疗、国防、应急响应这类领域天然伴随高风险，同时也天然伴随高伤亡可能——救命的系统与造成伤害的系统，在很多场景下是同一套技术的不同调用方式。如果条款给这些领域开了豁免，那么它的实际约束力将取决于豁免的范围；如果不给豁免，又可能对公共安全造成反向影响。这个平衡怎么划，是提案能否成立的关键。
第三个难点是它会不会反过来约束提出者。Anthropic自己也在训练前沿模型，也在追求更强的能力。一家把阈值写得越严格的公司，理论上给自己留的余地也越小。从这个角度看，提出这件事并不必然是商业策略——它也可能是这家公司对自己未来行为的提前锁定。
横向参照，近年各国AI立法在争议中推进：有的路径侧重按算力规模分级，有的侧重按应用场景分类，有的侧重透明度与报告义务。Anthropic提出的这条按后果严重程度设阈值的第三条路，与前两条并不冲突，反而提供了更接近风险本质的切入口。
需要如实指出的是，这次披露来自媒体报道，提案的完整文本、适用范围与执行主体都还未明确。在正式文本出现之前，任何解读都应当保留。但即便如此，把"死亡人数"这样一个具体而沉重的词写进立法讨论，本身就已经改变了讨论的温度。
一句话收尾：谈论AI风险很久之后，第一次有人给出了一个可被要求的数字。