Hinton 等 22 位大佬联名论文：AI 造 AI 时代，留给人类的窗口可能只剩几个月
今天一份 15 页的论文在剑桥大学 CASP 平台上发布，签名者是 22 位 AI 界分量最重的人：诺奖得主、AI 教父 Geoffrey Hinton，图灵奖得主 Yoshua Bengio，再加上 OpenAI 首席科学家 Jakub、Anthropic 联创 Jack Clark、Meta AI 研究副总裁 Dawn Song。这份名单，差不多是 AI 界「曼哈顿计划」级别的核心成员悉数到场。论文抛出的是一个不那么让人舒服的问题：当 AI 开始自己造 AI，我们该怎么办。
Hinton 本人的态度尤其耐人寻味。他在自己的 X 上转发时坦率说，「智能爆炸」这个概念讨论已久，但直到最近才真正让人感到危机迫近，「现在很多顶级大佬都觉得，它可能随时都会发生」。这话从反复说过「后悔投身此领域」的人嘴里说出来，分量和普通的机构安全声明完全不是一回事。
机器正在接管科研，数字不撒谎
论文抛出的第一个现实，是硅谷大厂内部的代码和科研，正在肉眼可见地退到人类手够不着的地方。
几个数字直接摆出来。Anthropic 内部由 AI 编写的代码比例，去年年初还只是个位数，到 2026 年 5 月已经超过 80%；完全由 AI 自主完成、人类只做高级别监督的研发工作比例，短短五个月从 1% 飙升到 26%。Anthropic 内部运行着约 3 万个 AI 智能体，仅 8 月份就产生了超过 10 亿次决策。
OpenAI 总裁 Greg 在 2026 年 AI Ascent 大会上透露，AI 写代码的比例已从 2025 年 12 月的约 20% 猛增至 80%。谷歌 CEO 劈柴也公开披露，新代码里 AI 生成的比例从 2024 年的 25% 爬到 75%。OpenAI 自己还表明，从模型训练、日常评估到构建安全攻防系统，核心环节已经被执行代码的自主 Agent 全面渗透接管。
任务周期也在被压。2023 年，最强模型也就顶得住几秒到几分钟的简单活；现在 Agent 能独立完成人类资深研究员要花数小时乃至数天才能搞定的复杂系统研发与调试。更有象征意味的是，一条全自动的 AI 科研流水线——提假设、搭实验、写代码到成稿——跑通了，写出来的论文竟然真的通过了顶会的同行评审。论文的进展曲线给出的预测是，到 2028 年中，需要人类顶级团队花费数月才能攻克的复杂 AI 研发项目，可能被完全自动化。
一年变五周：数学意义上的「智能爆炸」
论文的核心论点，指向下一代大模型 Scaling 的根本逻辑转变。过去决定 AI 进步速度的瓶颈是算力和人类研究员的精力；未来，核心变量切换成了「AI 研发自动化率」。于是出现了一个正反馈飞轮：更聪明的 AI 编写更高效的算法与架构，自动化执行百万级科研实验，再催生出下一代更强的 AI。
22 人的作者团队在附录里给了一个惊人的测算：如果把前沿实验室已有的推理算力全部拨给 AI Agent 执行研发，以当前运行成本折算，爆发的研发吞吐量相当于同时雇佣 200 万到 2000 万名顶级人类科学家组成的「超级智囊团」。可哪怕是 OpenAI、谷歌、Anthropic 三家加总，顶尖核心研发人员也不过数千人。人类要吃饭、睡觉、讨论、开周会，而上千万个数字科研 Agent 可以以千倍于人类的速度，日夜不停迭代数以亿计的算法假设。
论文引入了宏观创新经济学的核心指标「科研努力回报率 r」：如果 r < 1，边际收益递减，技术进步会随低垂果实采摘而放缓；但根据多项 AI 子领域的历史进展估算，AI 研发的 r 值中枢在 1.2 到 1.9 之间。只要 r > 1，软件质量与研发劳动力的复合增长就会击溃边际递减效应。推演模型的结论相当激进：在 AI 研发完全自动化条件下，AI 的技术进化速度将在 17 个月内飙升 10 倍——过去要人类辛苦研发一整年的技术突破，未来被压缩在 5 个星期之内。当「年」缩短为「周」，这就是数学意义上的「智能爆炸」。
三堵墙和一句无法回避的话
论文不客气地列出了软件驱动智能爆炸引爆后，人类文明会撞上的三堵墙。第一是能力增长彻底抛离社会适应节奏：生物攻击、网络攻击、劳动力市场剧变等风险可能提前数年甚至数十年到来，留给协调、监管、适应的时间被极度压缩。论文举的例子很具体——AI 能同时加速病毒设计和疫苗研发，但病毒能自我复制传播，疫苗却必须逐个生产分发接种，两者之间的时间差可能是致命的。
第二是人类可能彻底丧失对 AI 系统的控制权。人类在 AI 研发中的参与度越低，我们越既失去发现问题所需的机会，也丧失修复问题所需的专业知识。论文在最极端情况的表述上没有任何含糊：失去对 AI 系统的控制，可能导致「人类被边缘化甚至灭绝」。第三是权力制衡机制的彻底粉碎，让现有的制衡完全失效。
面对这辆疾驰向悬崖还不断加速的列车，作者们给出的呼吁是：撕开研发内部的「不可见黑盒」，建立物理级熔断机制与受限沙盒，并为适应智能爆炸的影响做好准备。报告末尾那句更沉：一旦智能爆炸真正跨过临界点，留给人类建立防线的时间窗口，将在极短时间内彻底关闭。
我不觉得这篇论文该被当成又一次「AI 末日恐慌」。它更珍贵的地方在于给出了一套可以被检验的测算框架——r 值、吞吐量当量、17 个月 10 倍、一年压成五周——这些数字可以争论、可以推翻、可以拿去做自己的推演。真正让我后背发凉的，恰恰不是结论，而是那一组被点名的大厂内部数据：Anthropic 五个月从 1% 到 26%，OpenAI 一年从 20% 到 80%。这些不是预言，是已经在进行的账本。当造 AI 的人开始变成 AI 自己，我们至少得知道数字现在走到哪一页了。
相关链接
- 论文地址：https://casp.ac/reports/intelligence-explosion
- Hinton 转发：https://x.com/geoffreyhinton/status/2106122709285368061