找回密码
立即注册
搜索
发回帖 发新帖

5261

积分

0

好友

669

主题
发表于 昨天 12:08 | 查看: 18| 回复: 0

11 月 11 日,前 OpenAI 研究员 Daniel Kokotajlo 在 X 上转发团队的新预测时说:“我感到恐惧、悲伤和愤怒。”

他认为,智能爆炸似乎终究会在 2027 年发生。如果 METR 的判断成立,AI 驱动的研发提速将比《AI 2027》当初推演的提前约五个月。

Daniel Kokotajlo 发布的 AI 研究时间线预测及团队预测变化

当 AI 开始帮助人类研发下一代 AI,连最激进的预测者也可能低估AI模型的进步速度。

不到三个月,《AI 2027》背后的预测团队 AI Futures Project 就将超级 AI 研究员(SAR)可能出现的时间提前至 2027 年。此前,团队中最乐观的 Daniel Kokotajlo 对“2029 年前出现超级 AI 研究员”也只给出五成概率。

AI Futures Project 发布 Q3.5 时间线预测更新

11 月 10 日,AI Futures Project 公布了新一轮预测(Q3.5)。署名作者一致认为,如果前沿 AI 研发没有显著主动放缓,超级 AI 研究员很可能在 2027 年出现。

AI Futures Project 对超级 AI 研究员出现时间的预测

促使他们调整判断的最重要依据,是独立评估机构 METR 对 Anthropic 的一项调查。

METR 花了 11 周调研 Anthropic,查阅内部数据并访谈员工。其估算显示,计入内部模型和基准测试后,自 2025 年 10 月以来,模型基准分数的增速达到此前的 1.9 倍。

按这一估算,Anthropic 的模型在这组测试中一年的涨幅,相当于过去近两年的增长。

跑分增速接近翻倍,AI 帮了多少忙?

11 月 5 日,METR 发布了这份报告。

METR 对 Anthropic AI 研发加速的独立评估报告

为了衡量 Anthropic 的模型进步速度,METR 使用了一项名为 AECI 的内部指标。它将多项测试的成绩合成为一个总分,多数测试都有明确目标,结果也能核验。

METR 估算,从 2025 年 10 月起,AECI 总分的上涨速度约为此前的 1.9 倍,95% 置信区间为 1.5 到 2.8 倍。

Anthropic 模型 AECI 得分增长趋势及增速变化

2025 年 10 月前后,模型综合得分的年增幅从约 15 分升至约 29 分。图源:METR。

题目难度的估计方式也会影响结果。METR 换用几种假设重新计算后发现,2025 年 10 月后的涨分速度约为此前的 1.1 到 2.9 倍。

不同算法得出的增速并不相同,但都显示分数上涨得更快了。

为什么会提速?METR 考察了训练算力、招聘、数据和算法的变化,认为训练算力增长速度的变化不足以解释这次提速。不过,支撑这一判断的具体证据在公开版报告中被删去了。

至于 AI 贡献了多少,METR 认为这一比例也在随时间变化。

2025 年底刚开始提速时,AI 之外的因素很可能也起了作用。到了 2026 年 10 月,METR 估计,相对于过去增加的那部分增速,可能有八成左右来自 AI。

METR 对 AI 在当前研发加速中贡献的主观估计

需要注意的是,“八成”是 METR 的主观估计。报告使用了“We guess”(我们推测),并明确指出这一判断存在很大不确定性。

AI 与非 AI 因素对 AECI 增长贡献的示意图,图中数据并非真实数据

上图是示意草图,并非真实数据:橙色曲线与灰色虚线之间表示 AI 带来的额外增长,灰色虚线与历史趋势线之间表示非 AI 因素带来的额外增长。

那么,AI 具体帮了什么忙?

一位受访研究员说,以前有些点子光是编写代码、把实验跑起来,就得花一两天。有了 AI 帮忙,他愿意多试几个想法,看看哪些行得通。

其他受访研究员提到,AI 会帮助编写实验代码、照看实验运行,还能完成一些过去需要额外花很多工夫才能做的测量。

有人甚至会一次把十个想法交给智能体,让它帮忙实现和测试。

从写代码到跑实验,AI 已经在帮助研发下一代 AI。按照 AI Futures Project 的新估计,这种提速可能比《AI 2027》当初推演的来得更早。

AI 研发提速可能比推演早五个月

2025 年 4 月发布的《AI 2027》,曾推演 AI 如何帮助开发下一代模型。

按当时的设定,虚构公司 OpenBrain 要取得同样多的算法进展,不使用 AI 需要一周半,使用 AI 只需要一周。

但算法进步只是模型进步的一部分。一个改进从实验中跑出来之后,还得应用到下一轮训练里,才能体现在新模型的能力上。

这一次,AI Futures Project 根据 METR 的估计推算,到 2026 年 11 月初,仅 AI 带来的提速,就可能让模型整体进步速度达到历史水平的 1.7 倍。

为了比较旧情景中何时才会达到这一速度,团队用模型复现了《AI 2027》的大致趋势。

结果显示,同样的 1.7 倍速要到 2027 年 4 月左右才会达到。如果 11 月初的估计成立,模型进步速度达到 1.7 倍的时间就比旧情景提前了大约五个月。

这个结果也超出了团队不到三个月前的预期。即使按当时最乐观的预测模型计算,AI 在 2026 年 11 月就将模型整体进步速度推到历史水平的 1.7 倍或更高的概率,也不到 4%。

超级 AI 研究员需要自己决定研究方向

METR 的报告也让 AI Futures Project 提前了对超级 AI 研究员出现时间的预测。

按照团队的定义,超级 AI 研究员首先要能包办一个前沿 AI 项目的编程工作。在选择研究方向、设计实验和解读结果等方面,它还要具备顶尖人类研究团队的判断力。

代码写完后,接下来该试哪个想法?实验失败了,是继续查找原因,还是换个方向?这些没有现成答案的决定,AI 得自己拿主意。

AI 什么时候能跨过这道门槛?同一份预测报告中,三种方法算出的时间相差一年多。

第一种方法先假设 AI 已经把模型进步速度推到了历史水平的 1.7 倍,再考虑 AI 今后可能接手更多研发工作。按这套模型,预测中位数是 2027 年 2 月,即超级 AI 研究员在这一时间点之前出现的概率约为一半。

第二种方法根据模型在测试中进步的速度向后推算,估计它何时能具备顶尖研究团队的判断力,得出的中位数是 2027 年 7 月。

第三种方法使用 Anthropic 员工自己报告的效率提升来推算,结果则到了 2028 年年中。

Anthropic 删去了哪些关键证据?

METR 在报告开头表示,他们认为最有助于判断核心结论的证据,大部分都被删去了。

报告还列出一张表,逐项对照 Anthropic 向 METR 提供了哪些内部资料,以及哪些结果被写进公开版。

内部模型的跑分趋势已经公开,但算法进步的估算和关键研发投入没有披露。至于 AI 对研发提速的贡献,公开版只列出了部分证据。

按事先约定,Anthropic 可以删节非公开信息,METR 则可以指出哪些结论依赖这些材料。Anthropic 给出的理由是,公开这些机密信息可能帮助其他开发者加快AI研发。

删节之后,外界还能核验哪些结论?

AI Futures Project 指出,跑分增速约为此前的 1.9 倍,有公开曲线支撑。但对于“额外提速可能有八成来自 AI”以及据此推算的 1.7 倍,公开证据要少得多。

外界要判断后两个数字是否可靠,更多需要依赖 METR 对内部资料的评估。

11 月 5 日,METR 还发布了对 Anthropic 8 月风险报告的复核。

METR 和 Anthropic 都认为,使用 7 月中旬的模型自动开展研发,直接引发灾难的风险还比较低。双方也都倾向于认为,当时的研发提速尚未达到 Anthropic 设定的预警线。

不过,METR 认为,Anthropic 的公开报告低估了当时的提速幅度,实际提速也有可能已经触及预警线。

接下来,一个关键问题是:AI 帮助研究员更快写代码、跑实验,能否让下一代模型更早交付?再进一步,更强的模型投入研发后,能否缩短再下一轮的研发周期?

如果提速能够一代代累积,超级智能(ASI)就可能比预想更早到来。

来源

新智元报道,编辑:元宇。

参考资料:




上一篇:C# 与 ScottPlot 5.0 实现压力测试实时响应图表
下一篇:AI 智能组织如何落地?李彦宏谈 Token 成本与企业转型
您需要登录后才可以回帖 登录 | 立即注册

关闭

站长推荐上一条 /1 下一条

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-11-20 04:51 , Processed in 0.067545 second(s), 42 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表