当「写代码的AI」开始大规模参与「造下一代AI」,智能爆炸就从科幻词汇变回可计算假说。
论文《What if automating AI R&D triggers an intelligence explosion?》(arXiv:2609.36054)由Alan Chan、Christoph Winter等领衔,作者阵容包括Geoffrey Hinton、Yoshua Bengio、Andrew Barto,以及OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学家Eric Horvitz等。中文圈于10月5日前后集中解读。论文核心问题:若AI研发流水线被进一步自动化,进步会否从「按年」压缩到「按月甚至更短」。
证据与推演: 文中引用实验室内部趋势:例如Anthropic报告在高层监督下由AI自主完成的内部AI研发工作占比,从2026年3月约1%升至8月约26%;OpenAI侧则称系统已能经常完成原需人类数天的研发任务。作者引入「有效研发劳动力」概念:若AI研究员可复制并行,前沿实验室的研究产能理论上可跃升数个数量级。在一定回报弹性假设下,模型推演出现「约1.5年内进步速度提高约10倍」等情景——对应「一年进步≈五周」的极端换算。同时列出算力、数据、实验墙时间与收益递减等硬约束。
基调并非末日论: 作者明确:当前生产率提升尚未证明已越过爆炸阈值;智能爆炸仍属高风险不确定情景,但高到值得政策提前准备——提高对AI研发自动化的可见性、发展引导与约束工具,并准备社会适应。对产业,它把RSI从口号推进到「可被审计的内部自动化比例」议题。
事实以arXiv论文与CASP公开摘要为准。