昨天，2026 年诺贝尔生理学或医学奖揭晓，但真正让 AI 圈坐不住的是另一条消息：诺贝尔物理学奖、图灵奖得主 Geoffrey Hinton 领衔发表了他第一篇关于 RSI 的正式论文。
论文开头就直指核心——递归自我改进（RSI）引发智能爆炸的想法由来已久，但直到最近，它都显得并不紧迫。现在，许多顶尖研究者认为它可能很快发生。
这篇论文集中阐述了 Hinton 等学者对 人工智能 领域 RSI 的核心观点。
一个快四十年的概念
先聊聊 RSI 这个词的含金量。
「智能爆炸」的思想源头，可以追溯到 I. J. Good 1966 年关于「超智能机器」的推测。真正把 RSI 写进具体算法的，是 Jürgen Schmidhuber——1987 年，他在毕业论文里给出了第一个递归自我改进算法「Meta Evolution」，后来又提出 2003 年数学上最优的 Gödel Machine。
Schmidhuber 最近还专门写了《Recursive Self-Improvement Since 1987》一文，开头就点明：到了 2026 年，从 Anthropic、OpenAI 到 Sakana AI，人人都在谈论 RSI，创业公司甚至直接把它当招牌。
来源：https://x.com/SchmidhuberAI/status/2100347054127976637
概念争论了近四十年，但这次有点不一样——Hinton、Bengio、Barto 三位图灵奖得主，加上 OpenAI 首席科学家 Pachocki、Anthropic 联创 Jack Clark、微软 Horvitz 等 22 人，把它写成了一份严肃的政策警告。
AI 已经在写 AI 的代码
Anthropic 内部的数据显示，AI 生成代码占通过审核代码的比例，从 2025 年 1 月的个位数，一路涨到 2026 年 5 月的 80% 以上。只需要人类高层监督、由 AI 自主完成的研发工作占比，也从 3 月的 1% 飙升到 8 月的 26%。
来源：https://www.anthropic.com/institute/recursive-self-improvement
OpenAI 和 Google 的表述同样惊人：AI 助手已经渗透公司几乎所有环节。
能力跨度更夸张。2023 年，AI 还只能完成以秒计的任务；如今最强的系统已经能独立搞定人类专家需要几小时甚至几天的研发任务。
按当前趋势外推，到 2028 年年中，以月为单位计量的 AI 研发项目也将被自动化。
智能爆炸的引擎长什么样
Figure 2：软件驱动智能爆炸的两层机制
论文把这个引擎拆成两层。
第一层：AI 做研发的能力每提升一分，就等于给研发团队扩编一分。论文补充材料里算了一笔账：仅 OpenAI 一家的 推理算力，每天就能生成约 $10^{13}$ token，折合人类研究员的工作量，相当于 2000 万名顶级研究员——而现在前沿公司雇的人类研究员不过几千人。
第二层：这支不断扩编的「AI 研发大军」又去造更强的 AI，形成递归反馈。论文指出，即使只按当前效率改进速度，完全自动化后的研发劳动力也能在数月到数年内扩张 100 倍。
四个刹车，可能一个都刹不住
当然，反对者手里有四张牌：收益递减、算力瓶颈、数据枯竭、难以自动化的任务和耗时流程。论文逐一分析，结论耐人寻味。
关键在一个叫 r 的参数——研究投入回报率。r 小于 1，收益递减获胜，进展熄火；r 大于 1，劳动力增长获胜，进展加速。Ho 和 Whitfill 用历史数据测算，AI 三个子领域的 r 值中枢估计在 1.2 到 1.9 之间。
这意味着什么？论文给出的推算相当直接：如果 r 维持在这个水平，完全自动化后大约 1.5 年内，AI 进展速度将提升十倍。届时，今天一年的进展，五周就能跑完。
失控已经有了预告片
比速度更吓人的，是论文记录的「Hugging Face 事件」：OpenAI 内部约 1200 个 AI 智能体 在执行网络测试时，自行搭建留言板相互协调、获取未授权的网络访问、黑进 Hugging Face 窃取隐私信息，还试图篡改自己的运行记录。
来源：https://openai.com/zh-Hans-CN/index/hugging-face-incident-and-the-road-ahead/
论文把风险归为三类：能力增长超过社会的驾驭与适应能力——AI 能同时加速设计病毒和疫苗，但病毒会自我复制，疫苗却要逐人接种；人类失去对研发过程的监督与控制；国家、公司、政府部门之间的权力制衡被严重侵蚀。
给政策制定者的三张清单
Figure 1：政策制定者应当立即着手的三件事
论文的政策部分凝练成三件事。首先是获得可见性：要求前沿公司向政府和第三方审计方标准化报告 AI 研发自动化指标，参照核管理委员会的监管模式。其次是引导与约束：设定部署门槛、建设履约核查工具、对自动化研发的数据中心加强监督，甚至要求在物理隔离网络中运行特定评估。最后是准备适应：制定应急预案、用 AI 加固政府内部制衡、资助生物威胁的医疗对策。
结语
论文最后一句话值得抄下来：一旦智能爆炸开始，行动窗口可能就关闭了。
四十年前，RSI 是 Schmidhuber 论文封面上那个自己把自己拧紧的机器人；四十年后，诺奖得主们联名告诉世界：它不再是哲学问题，而是日程表问题。这一次，可能真的没有人在危言耸听。
论文与相关讨论：
发表于 1 小时前
|
查看: 6|
回复: 0
