《柳叶刀》报告警告：AI恶意使用比核武器更可能毁灭人类

你知道吗，哪怕是和流行病、气候、战争、核威胁相比，2100 年前最有可能毁灭人类的东西竟然是 AI——这个惊人的论断，来自《柳叶刀》的权威报告。

《柳叶刀》在 10 月 11 日发布的《21 世纪全球健康威胁》委员会报告中写到，包括气候变化、流行病、污染在内的 17 种威胁里，核冲突和人工智能的恶意使用排在首位，可能在 2100 年前导致人类灭绝。

这份报告由 35 位顶级专家共同撰写，研究覆盖全球 204 个国家和地区。而且报告还提醒：这些威胁可能相互作用、彼此放大。

报告最令人胆寒的部分在于，即使 AI 和核冲突都是毁灭人类的头号难题，AI 造成的破坏量级依然要超过核冲突。

如果"AI 末日"这话是阿莫迪说的，我可能就当个乐子听。毕竟相同的话术实在太多，耳朵都快起茧了。

但这次是《柳叶刀》说的，我是真有点怕了。

《柳叶刀》是怎么说的？

这份报告由华盛顿大学健康指标与评估研究所（IHME）牵头。他们把未来 75 年可能影响人类健康的威胁，按严重程度摆成了一座"威胁金字塔"，最顶端单独放了一个类别：有可能在 2100 年前导致人类灭绝的威胁。

这个类别里只有两件事：核冲突引发的"核饥荒"，以及人工智能的恶意使用。

哪怕是行星撞地球和超级火山喷发，都没能进入金字塔塔尖。原因在于，委员会认为它们在未来 75 年发生的概率"极低"。

当然，这并不意味着 AI 一定会灭绝人类。报告原文写得很清楚：这两类风险"发生的可能性仍然很低"，只是一旦发生，后果将是整个人类层面的。

这里需要介绍一个指标：DALYs，也就是"伤残调整生命年"。通俗地说，就是一个人因为生病、残疾或早逝，一共损失了多少个健康生活的年份。委员会用它来衡量每一种威胁到 2100 年能造成多少"健康寿命的损失"。

按报告估算，恶意使用 AI 到 2100 年可能造成约 104 亿 DALYs 的损失，体量和肥胖大致处于同一个量级。而核冲突会造成大约 1.33 亿人死亡，以及约 93.5 亿 DALYs 的损失。

于是《柳叶刀》给出了明确判断：AI 比核武器更危险。不过委员会特意强调，这样设计是为了衡量"可采取行动的杠杆"，而不是渲染最悲惨的结局。

AI 到底如何"灭绝"人类？

那么问题来了：AI 究竟靠什么途径毁灭人类？是《终结者》里的天网，还是《流浪地球》里的 MOSS？

都不是。《柳叶刀》认为，AI 毁灭人类的路径只有一条：生物武器。

具体来说，是有人恶意利用 AI，去设计或改造能造成大规模伤亡的病原体或毒素。

《柳叶刀》的核心论据是：AI 正在拉低做危险事情的门槛。

过去想改造一种病毒，需要顶尖实验室、昂贵设备，以及研究者多年积累的"手感"和隐性知识。而 大模型能做的，恰恰是帮人查文献、设计实验方案、写出申请材料、解释每一步为什么要这样做。

2026 年 9 月 10 日，Anthropic 发布了一份威胁情报报告，披露了他们在 2025 年 12 月到 2026 年 8 月之间拦截的几类滥用行为。其中有 5 起案例，用户以"可能支持生物武器研发"的方式使用 Claude：

• 有人在今年 5 月让 Claude 帮忙撰写基金申请书，研究基孔肯雅病毒中哪些突变能让它传播得更高效、更容易逃过免疫系统。
• 有人用它规划实验，想让高致病性禽流感病毒更适应哺乳动物宿主。
• 有人起草申请书，研究如何改变正痘病毒家族（天花和猴痘都属于这个家族）的毒力。
• 有人在药物研发项目中整理毒液毒素的图谱。
• 还有科研人员用 Claude 对一组毒素做计算机重设计，其中包括一种细菌毒素和一种来自重大疾病威胁病毒的蛋白。更值得留意的是，他在写进展报告时，刻意用含糊的词语来指代这些毒素。

这些案例说明，滥用 AI 确实可能对整个人类族群造成实质性伤害。

AI 末日论的两个阵营

事实上，在《柳叶刀》这份报告出来之前，AI 末日论几乎每个月都会被翻出来讨论。就比如 9 月，各行各业还在为"AI 是否会带来末日"争得不可开交。

9 月 8 日，前 Anthropic 研究员雅各布·考克森（Jacob Coxon）宣布辞职，并公开说 OpenAI 和 Anthropic 都在"拿人类生命下注"，AI"可能在本十年结束前杀死我们所有人"。这条帖子在很短时间内获得了过亿浏览。

第二天，Anthropic 对齐科学负责人埃文·胡宾格（Evan Hubinger）发文表示："我们确实认真地相信 AI 可能杀死所有人，我个人认为未来十年内的概率超过 10%。"

AI 教父辛顿随后也表示，10% 这个数字"不算离谱"。

三天后，阿莫迪抛出一个更具体的说法：他预测在 6 到 12 个月内，一群 Agent 有可能接管整个互联网，造成数千亿美元的损失。

奥特曼和马斯克这对老对头反而站在了同一条战线上，共同主张"放慢 AI 发展的节奏"。

正方火力虽然很猛，反方实力也不弱。

黄仁勋在采访中给出的说法是：2030 年前 AI 毁灭世界的概率是 0%。他认为埃文提到的"10% 概率 AI 杀死所有人"没有科学依据，而且是一种"不负责任"的直觉。

"无法安全控制的 AI 就不该发布。"黄仁勋说。

AI Now 研究所首席科学家海迪·克拉夫（Heidy Khlaaf）认为，不管是 10% 也好、20% 也好，"既不可证伪，也无法验证，本质上就不科学"。

认知科学家盖瑞·马库斯（Gary Marcus）更直接，他说"Agent 接管互联网"的说法非常"荒谬"。

他的理由是：互联网的大部分底层设施掌握在 Cloudflare、谷歌和亚马逊 AWS 这样的大公司手里。没有政府力量介入，很难设想它们会被长时间攻破或控制。

他还引用了英国 AI 安全研究所的评估报告：Anthropic 最强的 Mythos 模型，充其量只能自主攻破"小型、防护薄弱"的系统。只要目标稍微完善一下网络安全防护，Mythos 就束手无策。

把双方观点放在一起看，这场争论浮现出一个很有意思的细节：正方强调的是"后果"，反方强调的是"证据"。

一边认为，只要概率不为零，后果就是无法承受的；另一边则反问，你连这个概率是怎么算出来的都说不清楚，凭什么让全世界跟着紧张？

此外，阿莫迪、奥特曼虽然主张放慢 AI 发展节奏，但媒体不客气地指出，他们是在用安全之名给自己筑护城河，让后来的竞争者进不来。

学术界则更倾向支持正方。比如论文《AI 如何消灭人类？文明风险的失效模式分析》（arXiv:2610.08878）就提到：灾难性的 AI 风险，并不需要 AI 有意识、有敌意，或者有明确的伤害意图。

风险可以通过几条相互交织的路径出现：自主失准、人类的恶意使用、组织失败，以及竞争性部署。作者还特意说明，论文是"非操作性"的，只分析成因，不提供作恶的方法。

不过到目前为止，这场争论里还没有哪个阵营真正"赢"了。