8月5日，在Google工作了27年的Jeff Dean宣布离职，创办了一家名为 Discovery Loop 的公司。这个名字背后的野心昭然若揭：让AI进入一个持续运转的科学发现循环。
但就在上周，一篇来自Google DeepMind的论文《LLM can't jump》也火了。论文标题直译过来是“大语言模型不会跳跃”。这里的“跳跃”，是爱因斯坦在给友人的信中提及的科学发现过程中的关键一跃。
整个科学发现的过程可以被视为：
感官经验 E → 通过跳跃得到公理 A → 从公理演绎出结论 S → 再回到经验验证。
也就是说，科学家从经验事实出发，通过一次无法被既有逻辑完全推导出的跃迁，形成全新的基本原则。然后再从这些原则中演绎出可检验的预测，将其放回经验世界中去验证。
这个跃迁，正是科学发现的灵魂所在。
Zahavy的判断，就像是给Discovery Loop的宏大叙事迎头泼下的一盆冷水。模型或许能将实验自动化，能够沿既有问题不断改进，甚至能完成复杂的数学演绎，但它唯独缺少科学发现中最关键的那一步——从有限的感官经验中，发明一套此前并不存在的基本原则。
一种流行的乐观看法是，科学创造力本质上也是一种寻找更优数据压缩方式的过程。当旧理论难以简洁地解释观测结果时，系统为了降低预测误差，便会自动去寻找更具统一性的新规律。
但Zahavy并不认为“压缩”足以覆盖科学发现的全部过程。在他看来，这仅仅是人类形成知识的三种模式之一。数据压缩，本质上是归纳，负责从数据中找寻规律。除此之外，还有负责从前提推导出结果的演绎。但真正能改变科学框架的那一次跳跃，是从有限事实中发明出新的解释原则，也就是 Abduction（溯因推断）。
在作者看来，当下的模型在结构上根本不具备这样的能力。
爱因斯坦所做的溯因推断，依赖的是将模拟的经验翻译成形式化的公理。他先是发现系统中无法被解释的现象，再用自由落体、电梯这类思想实验去模拟，最终在反复的模拟过程中提炼出全新的公理。
而当前的大语言模型主要处理的是已经语言化了的符号。它没有一个可行动控制的世界模型（action-controllable world model，可以通过动作改变环境状态的模型），去完成那些模拟性质的思想实验。
那么，Jeff Dean和几位Google AI核心人物押上职业生涯，试图让模型通过长期交互、实验和自我修改来不断进化，这条路是不是从根本上就走不通呢？
实际上，从当前模型的能力，到爱因斯坦级别开创全新问题域的水平之间，还隔着非常多层，比如一般的研究者、能提出部分理论和修正的研究者。
当前的AI，甚至还没有能力成为一个哪怕只是勉强合格的科学家。
《LLMs Can’t Jump》追问的是AI能不能完成那最后的跳跃。而Jeff Dean创业所押注的，则是AI是否终于具备了走到那个悬崖边上的前提条件。
在我们回答模型能否成为爱因斯坦之前，可能得先回答一个更现实的问题：今天的大模型，距离一个普通但合格的科学研究者，究竟还缺多少东西？
大模型的科学发现天花板，在跳跃前已经有了两层塌缩
一项研究在进入实验和验证阶段之前，需要先走两步：首先是确认“哪里存在一个值得研究的问题？”，然后再去决定“准备以什么方式解释或解决这个问题？”
现在关于LLM科研品味的研究，恰好对这两个问题都有所涉及。它们可以证明，今天的模型并不是走到跳跃那一步才突然丧失创造性的，而是在更早的阶段，就已经连续发生了两次收缩。
问题域的塌缩，始于缺乏怀疑和概念游戏
科学发现常被描述为寻找答案。但在很多重要的研究中，真正稀缺的往往不是答案，而是把某件事辨认为问题的能力。
当前AI科研系统的起点，通常已经非常靠后了。模型接收到的是论文标题、摘要、相关工作、数据集和任务说明。研究对象早就被命名好了，目标也已被规定好，现有方法的优缺点更是被论文作者整理成了一套成熟的叙事。
模型真正要做的，往往不是从世界中发现问题，而是在别人已经组织好的问题空间里，接着往下写。
在这种模式下，模型发现问题的能力会如何演变呢？
对此，香港科技大学在5月发表了一篇题为《AI Research Agents Narrow Scientific Exploration》的大规模研究。作者使用AI Scientist、ResearchAgent、Co-Scientist和Agent Laboratory这四种主流的科研智能体框架，以及五种大模型，从155个研究区域中生成了219,655个研究想法，再把它们和真实人类的科研选择进行对比。
这四种智能体框架都设置了创新鼓励机制。AI Scientist会进行多轮自我反思，ResearchAgent加入了分阶段规划与评审，Agent Laboratory让多个智能体进行讨论，Co-Scientist甚至引入了竞赛式的假设演化。
但即便所有智能体都被明确要求寻找新颖、高影响力的方向，并且可以主动检索额外文献，模型的问题意识仍然相当保守。
作者把每个方案拆解为“研究什么”和“怎么研究”，再将其与种子论文进行比较。结果发现，只有10.5%的AI方案提出了种子材料中所没有的新研究问题，但却有90.4%引入了种子论文中没有的新方法。
换句话说，模型的新意大多不是基于现有情况提出新问题，而仅仅是在局部换了一种解法。
比如，已有工作正在研究X，但当前的方法在效率、鲁棒性或泛化性上存在不足。于是，我们可以引入Y方法、增加Z模块，再设计一组实验去改善X。
它通常不会首先去追问：为什么X会成为问题？X是否混合了两个完全不同的现象？当前衡量X的方式是否正确？有没有一个更重要的问题，在现有论文的表述中根本就没有被看见？
这当然是正当的科研。现实世界里绝大多数学术论文，本来也不是爱因斯坦式的理论革命。问题在于，当这种结构成为一种压倒性的默认路线时，问题空间本身就没有被充分打开。
它更倾向于接受所读材料中包含的预设：X是值得研究的对象，当前指标代表了进展，现有的任务边界是合理的。随后，创新便被限制在如何用新技术去继续推进X。
检索和复杂的Agent框架可以帮助模型稍微离开初始材料，但并未从根本上改变这种局部探索的模式。
作者将这一现象称为 local elaboration（局部展开）。 这说明模型擅长沿着已有研究向前伸展，却不擅长拓宽科学探索的版图。
这与人类的深度研究恰恰相反。人类的研究，很多时候都源于冲突与质疑。
另一篇来自芝加哥大学6月的论文《Contemporary AI Lacks the Imagination to Diverge or Negate in Science》也印证了这一点。该研究邀请了121,640篇近期预印本的作者，让模型根据这些研究者自己论文中的背景和科学谜题生成后续假设，最终有6,749位科学家返回了25,139组评价。
研究发现，没有一个模型类别会自发地提出 null hypothesis（零假设），即明确地认为题目中的关系可能根本不存在。
而且，它们提出的研究方向还高度趋同。非推理模型虽然可以生成多个假设，但这些假设往往共享相同的前提、因果方向和问题框架。
另一篇论文则更进一步。芝加哥大学7月发表的《Measuring the Gap Between Human and LLM Research Ideas》分析了模型究竟会把哪一类知识不足定义为研究机会。
作者从11,683篇已在刊物上发表的人类论文中抽取参考文献，然后让不同模型根据这些参考文献提出新的研究方案。
他们将科研提出的研究问题分为七大类：矛盾或谜题、解释缺口、适用范围错配、证据缺口、桥接机会、失败风险和资源瓶颈。
人类论文在这七种入口上的分布相对分散。根据论文图表，人类最常从解释缺口入手，约占三成；失败风险、适用范围、证据缺口和桥接机会各占一成多；发现矛盾和资源瓶颈的则稍微少些。
而模型端则呈现出了明显不同的形态。在九种模型设置中，47.1%—64.2%的研究动机被归为桥接机会，而人类仅有12.1%。
换句话说，给模型几篇相互邻近的论文，它常常会把科研构思转化为一种关系判断——将彼此分离的文献、方法、理论或证据流重新连接起来。
而我们大家寄望能更深挖结构、形成深层认知的推理型模型，反而似乎更容易走这条拼接之路。以Qwen3-8B为例，在思考模式（Thinking Mode）下，其桥接型动机从约一半上升到了七成以上。
芝大的论文其实也发现了这一现象，他们认为模型通常是把科学任务理解为“在现有变量之间提出一个关系”，而不是重新设计我们观察世界的方式。
为什么模型会这么选？首先，AI把测量方式和实验条件当成了题外条件，它能看到的、熟悉的都是文字，因此仅仅依靠已发表的文献生成假设，最终只能进行 recombination（重组）。
而且，桥接和重组是最容易直接从文献中得出的结论。论文A已经有了一个方法，论文B已经有了另一套机制，两者还没有被一起使用，那么连接它们就可以直接写成研究动机。既然模型看的是文献，这种方法甚至不需要太深入理解文献就能提出新方向。
由此，模型不仅仅是提出的新问题少，即使是在已有问题中寻找缺口，它所看到的缺口类型也明显偏窄。
目前的AI，就像一个不敢否认前提，并且手里和脑子里都只有概念间联系的研究员。
解法域的塌缩，在于浅尝辄止和狭窄的想象力
一旦问题被确定下来，模型便进入了自己更熟悉的区域。
它可以迅速调用庞大的知识库，针对同一个问题，一口气给出十几种技术路线。但“候选数量多”并不等于“解法结构多”。大量方案可能只是用不同的材料，执行着同一类认知动作。
这些创新的第一个特点，就是解法比较接近原点。
在《AI Research Agents Narrow Scientific Exploration》中，研究者测量了AI方案相对于起始文献的距离。他们把每条方案与五篇种子论文的语义中心进行比较，发现AI想法与种子材料的平均距离是0.322，而后来真正引用这些种子论文的人类后续研究，这个平均距离为0.410。
无论是使用单轮生成，还是加入了文献检索、反思、多智能体讨论和假设竞争，AI方案整体上都更靠近起点。即便是离种子最远的Agent Laboratory，其平均距离达到了0.382，也远未达到人类后续研究的水平。
这说明，模型明显倾向于近端科研搜索。它并不是在所有可能的问题中寻找价值，而是在当前材料所定义出的可见空间里，寻找最近的、合理的下一步。
这种搜索域的“浅”，并不等同于方案的幼稚。一个技术上相当复杂的方案，也可能与起点非常近。方案可能涉及复杂的架构和完整的实验，但它改变的，依然只是已有路线上的一段技术配置。
除了搜索域“浅”之外，它还“窄”，并且特别容易被少数“新奇组合”吸引注意力。
这篇论文还测试了模型的 exploration breadth（探索宽度），即在同一研究领域中，大量模型想法彼此之间有多不同。AI想法的平均宽度是0.554，人类论文是0.599，模型整体低了约7.5%。这个差异并不意味着模型的所有方案都雷同，但意味着在让模型反复生成时，它所占据的语义区域更集中。
但是，具体是怎么个集中模式呢？
前面谈问题域时，论文《Measuring the Gap Between Human and LLM Research Ideas》曾提到，模型喜欢从桥接的可能性出发去寻找研究问题。与之对应的，它的解决方式也明显偏向 Synthesis / Unification（综合／统一）。
在这种方式中，模型做的就是连接、整合、调和或统一不同的文献、理论、证据、机制和方法。人类论文中，这类方法只占5.1%，而在模型中则达到了22.5%—38.7%。在机器学习子集中，这种偏移更加夸张。不同模型的综合类方案比例达到35.5%—70.7%，而人类仅有6.6%。
后续的原型聚类分析，将这种偏好还原成更具体的研究算子。模型最常见的操作是“整合”，在模型输出中占34.2%，在人类想法中只有2.35%。而人类则更常去检查是不是哪个部件该换了，哪两件事不该混在一起，或者这个问题从一开始就没说清楚。
你能看到的最常见的AI科研解决路径，就是把两个不同的解决方法放进一个统一框架里。
这种方案的新奇性，主要来自算子组合的新奇。 已有对象未曾以这种方式搭配过，已有模块未曾被放进同一个系统，已有机制未曾被用于这个场景。组合当然可能产生真正的突破，但人类却并不被这个方法所支配。
说到底，就是套用和组合，这又是对文献本身最容易的使用方法。
可即便是这套套用与组合，模型也更喜欢用新奇的概念，而不是深入文献本身去寻找机制、假设和证据。
该论文的作者发现，模型在使用统合方法时，虽然在语言上频繁提出要“整合多篇工作”，但如果将方案和它的4~8篇前序论文一同放入同一个嵌入空间，人类方案反而更均匀地利用了多篇文献。在兼顾文献中心位置、覆盖均匀度和是否被单篇论文主导的综合指标中，人类得分为1.4662，Qwen为1.3345，DeepSeek为1.4237。
这说明模型只是盯着一两个点、一两篇主导文章在看，而非一个完整的理解过程。
从对模型提出方法的概念分析上，我们也能看出这种倾向。它们更偏爱拿一个最近流行、看起来到处都能用的技术当“万能插件”。比如看到扩散模型、多模态、上下文学习、测试时适应或者多智能体，就会想能不能把它接到眼前这个问题上，做成一个A+B的新方案。而人类研究者更常盯住的，则不是这些大而泛的技术标签，而是系统内部某个非常具体的环节。
也就是说，模型更习惯从现成的技术库里挑一个模块接上去，而人类更常从问题内部找到那个真正需要动刀的位置。
因此，模型方案的第二层限制，是创新算子分布狭窄。它能够生成大量表面各异的技术方案，但这些方案经常是由很相似的底层逻辑构成的。
看起来是十条崭新的方案，底层可能只是同一种加法操作换了十组技术名词。
这两个塌缩，其实都发生在所谓的“科学跳跃”之前。模型还没有走到需要创造新理论的关口，问题域就已经被现成的文献框住，解法域又被热点技术、近端改进和组合模板占得满满的。
所谓“不会跳”，因此不只是最后那一步迈不出去，而是起跑线本身太窄了。
今天的模型，更像一个长期被困在概念世界里的研究者。它读过无数论文，熟悉所有流行术语，却很少真正守着一个异常结果反复琢磨。
遇到问题，它的第一反应不是去追问哪个前提出了错，而是从工具箱里翻出一个现成的方法接上去。不是耐心积累失败、冲突和局部经验，而是选择认知上最省力、文本上最容易成立的路线。
它读得多、写得快，也很会把方案包装得完整，却没有一个研究者被现实反复打脸之后，慢慢沉淀出来的那套执念、偏见和问题意识。
所以，模型还远不是站在像爱因斯坦那样，面对着一个解释的悬崖，而是一直在图书馆的索引卡之间抄近路，从没真正走到悬崖边。
模型缺乏创造力的机制，正在被Agent的进步补齐
前述的研究指出了诸多问题，但并没有讲清楚其背后的原因。
答案可能分别对应三种底层机制的缺失：缺少能够反驳概念的现实，受到近端优化的强烈牵引，以及缺少一套持续存在的局部信念。
缺乏现实的锚点，去摆脱概念的游戏
当前多数科研构思实验，采用的基本形式都是“论文进、方案出”。
模型读到的是整理过的实验结论。研究对象早已被人类命名，变量也已被抽取，因果关系更是被写成了论文语言。它接触到的，是已经过科学共同体筛选和压缩之后的世界。
这与真实科研所面对的对象并不相同。
一篇论文呈现的是最终能够说清楚的结果，而在现实的科研中，更常见的却是那些暂时说不清楚的东西。比如，同一机制在不同条件下方向完全相反，某个被认为无关紧要的变量总在干扰实验。
研究者并不是先拥有了完整的概念，再到世界中去寻找例证。很多时候，恰恰是世界的持续不配合，才迫使研究者发明新的变量、重新划分对象，或者承认最初的问题就问错了。
而在纯文献环境中，现实已经被翻译成了概念。模型能操作的主要对象，就是论文里已经出现的那些名称和关系。
《Contemporary AI Lacks the Imagination to Diverge or Negate in Science》认为，只从已发表文献中产生假设的系统，最终很容易继续去重组已知的知识。
科学Agent必须把新的测量、仪器、干预和自然实验也视为假设空间的一部分，主动寻找违反自身预期的观测。只有真正“伸手进入世界”，系统才可能去扩展文献，而不是重新压缩它。
甚至，负面的材料更为重要。公开的科学语料主要记录的是“什么成立”，而大量没有效应、无法复现、已经试过但行不通的 negative knowledge（负面知识），往往都留在了失败的实验、废弃的笔记和实验室内部的经验中，并没有进入训练文本。
仅靠平铺的文献，也很难恢复出某个结果本应怎样的 expected contrast（预期对照结构）。作者因此判断，只从已发表的文献生成假设的系统，很容易被限制在已有知识的重新组合里。
这里缺少的，是一种来自模型之外的认识阻力和现实细节。
在文字世界里，一个方案是否成立，首先得看它能不能被已有的概念说通。而现实世界中，想要获得一个结论，则需要对现实进行实验并反复调整。
这种阻力很重要，因为它不仅淘汰错误答案，还可能迫使系统更换描述问题的语言。没有这种外部冲击，模型最多就是在既有的词汇中调整关系。而唯有当现实中存在那些无法被现成概念吸收的剩余时，才可能需要去创造新的研究对象。
它知道大量关于世界的说法，但世界很少以一种不由它决定的方式回来告诉它：你使用的对象、变量和关系，本身就不对。
这解释了为什么模型容易陷入桥接和重组。因为在纯概念环境中，最自然的创新方式，就是重新排列已有的概念。
文献提供什么，模型就连接什么，而文献没有留下的失败、异常和不可言说之物，也就很难进入问题域。
那么，该如何提供这些文献之外的领域呢？
一谈到模型缺少现实世界，很容易直接跳到必须让它像人一样看视频、摸物体，在连续的三维空间里学出一个完整的世界模型。
但如果引入以Allen Newell（艾伦·纽厄尔）为代表的符号主义路线，问题或许未必只有这一种答案。
Newell和Herbert Simon（赫伯特·西蒙）提出的物理符号系统假说（Physical Symbol System Hypothesis）认为，一个能够建立、组合和操作符号结构的物理系统，原则上就已经具备实现一般智能行为所需的条件了。
这里的关键在于，系统能否把符号组织成对当前世界状态的表示，并通过搜索和操作这些表示来决定行动。
沿着这条路线，我们可以得到一个相对较弱、却非常实用的判断：模型不一定非要先拥有一个由像素、视频和三维几何构成的完整世界模型。只要它能够持续接触到足够可靠的“行动—结果”符号轨迹，也有可能逐步形成一套关于局部世界如何运转的模型。
比如，一个科研Agent（智能体）并不需要直接去感受实验室里的温度。仪器给出的温度读数、试剂剂量、操作顺序和反应结果，本身就可以成为符号。
这些轨迹与普通的论文文本有一个根本的区别。论文告诉模型别人是如何描述世界的，而交互轨迹则告诉它自己做了什么，世界随后又发生了什么。
从这个意义上说，符号不再只是悬浮在文本中的概念，而是被接到了行动的后果上。
而这，正是当下Agentic RL（智能体强化学习）正在提供和完善的东西。标准的语言训练，主要是让模型根据已有文字预测下一个词。智能体强化学习，则是让模型在环境中反复经历“观察—行动—新观察—反馈”的循环。模型不仅要生成解释，还要选择行动，并承担行动改变环境后的后果。
更直接的工作，已经不满足于只奖励任务最后是否成功，而是明确要求模型从交互轨迹中学习环境本身。
这也是当下Agentic RL最强调的方向，即完整工作轨迹的提取和训练。
它似乎也确实可以构建出某种真实世界的认知。
26年6月，上海AI Lab发布的EnvRL就认为，一条Agent轨迹中包含的不只是成功或失败，还隐藏着环境的状态转移规律。因此，它为强化学习增加了两个任务：一是根据当前状态和行动预测下一状态，二是根据前后状态反推出中间发生了什么行动。
加入这两项训练后，模型在ALFWorld和WebShop等长程交互环境中，都比只使用任务奖励的强化学习表现更好。
从这个角度看，Agentic RL的意义并不仅仅是简单地教模型多用几个工具，而是在于建立起了一个最基本的现实Loop：模型采取行动，环境返回一个不由模型决定的结果，这个结果再去改变下一次的行动。
它仍然可能只是符号层面的世界模型，却已经不同于论文内部的概念游戏。
近端优化让模型总在抄认知上的近路
现实的缺失解释了模型为什么被困在概念世界里，却还不足以解释前面论文中的另一个现象：即使给模型更多时间、更多推理步数，它也并没有逐渐把问题想得更深入。
这背后，可能是一种非常根本的“抄近路”机制。不论是前面提到的“局部展开”，还是模型在解法上寻求快速拼接，都共同指向一种明显的近端优化倾向。
现在模型所用的自回归模型，确实有一种结构上的近端偏向。因为它必须一个词一个词地作出选择，一条陌生而漫长的路线，需要连续多次选中低概率的分支，才能最终显现出价值。因此，远端的路线天然就更难被完整地走到。
但这种倾向最大的放大器，其实来自后训练。
现在常用的RLVR（基于可验证奖励的强化学习），并不是先让模型把所有可能的路线都探索一遍，再从中找到最好的。它的实际做法是：先从模型当前最容易生成的答案里采样，答对的就提高概率，答错的就降低概率。这样一来，原本就比较常见、又偶然成功的路线，会在下一轮更容易被采到，也更容易再次得到奖励；而那些概率较低的路线，还没有机会证明自己的价值，就会变得更难出现。
斯坦福在去年7月的论文《The Invisible Leash》发现，RLVR可以稳定地提高Pass@1，也就是模型一次作答时的成功率。但从大量采样来看，训练后模型能够覆盖的答案范围往往是在缩小的。
模型每一步使用的词可能显得更加多样，但实际上，最终答案却集中到了更少的类型上。后训练更像是在已有的解法中，不断押注赢家。
同样是去年的论文《The Entropy Mechanism of Reinforcement Learning for Reasoning Language Models》则进一步解释了这种集中是如何发生的。
在训练早期，模型的策略熵通常会迅速下降，即原本分散在不同路线上的概率，越来越集中到少数路线上。之后，探索能力随之下降，性能也较早地进入了平台期。
那些原本概率较高、又得到了正奖励的token会获得更强的强化，下一轮更加占优，形成一个“越容易出现，越容易被奖励；越被奖励，越容易出现”的锐化循环。
因此，当下的模型被训练的倾向是尽快交出一个好方案，而不是强化耐心去弄清楚这个问题的结构到底是什么。
而真正深入的研究路线却常常与此相反。它在早期可能只有一个模糊的异常，没有完整的方法，也不知道该用什么指标来验证。但要理解问题背后的结构，研究者可能必须去设计一些短期内无法提高结果的实验。
如果说缺乏现实，是让模型没有足够的经验去了解可能性。那么近端优化，就是限制了模型本身已有的潜力。
“浅”，是因为系统倾向于在已有文献附近，尽快获得可评价的进展。“窄”，则是因为整合、适配和模块替换最容易形成稳定的反馈回路。
既然近端优化本质上是自回归的一个特性，那这岂不是无解了？但其实，从预训练模型内部来看，情况并没有这么悲观。
卡耐基梅隆大学在去年9月的论文《Internal Planning in Language Models》分析了模型输出前的隐藏状态，发现模型内部确实会保留一些尚未被最终采用、但同样正确的后续分支。它的规划距离会随任务而变化，并不是始终只编码下一步。
也就是说，基础模型里可能已经存在一些岔路，只是这些岔路不一定会在最后被选中。
所以，如果我们选择不太一样的后训练方式，在同一种架构下，不同的数据、目标和训练设置，完全可能学出不同程度的前瞻能力。
虽然它依然可能有其极限，但也可能远超当下的水平。
比如，前面那篇关于熵机制的研究中，作者为了抑制模型的锐化冲动，限制了那些最容易导致概率集中的更新。事实证明，这确实可以保留更多的探索，并提高最终的任务表现。这说明至少有一部分“越训练越窄”的现象，源于具体的强化学习更新方式，而不是模型不可改变的本性。
但现实是，现在很多自动科研系统的外循环，本质上仍是局部爬山。提出一次修改，运行实验，如果指标提高就保留，如果没有提高就丢掉，再从当前最好的结果继续修改。
这套办法非常适合目标明确、反馈快速的工程优化，却容易错杀真正复杂的研究方向。
多伦多大学在今年5月的论文《GEAR》中，就对Karpthy大火的AutoResearch做了更深层的实验，发现这种形式的自进化，只会保留当前最好的程序。当一个实验没有立即超过当前最佳，就会被丢弃。这会一并丢掉部分成功的想法、互补的局部方向和失败实验留下的信息，并很快停在一个局部最优解上。
因此，GEAR改为同时维护一组研究状态，每个状态都保存代码改动、实验结果和模型对失败的反思，再允许不同的分支继续演化或重新组合。在相同的实验预算下，保留多条分支的系统仍能继续取得进展。
在此之外，也有各种防止近端优化的方法被提出，比如Sakuna AI的Darwin Gödel Machine（达尔文哥德尔机）就不再只维护一个当前最强的Agent，而是保存一个不断扩张的Agent档案，从不同的祖先出发产生变体，让多条谱系并行发展。
作者强调的核心也不是某一次修改，而是让早期发现的不同Agent，成为后续进化的 stepping stones（垫脚石）。
不过，这项工作改进的主要是冻结大模型之上的工具、工作流和Agent代码，并假定编码基准上的成绩能够代表自我改进能力，还没有证明这种开放搜索可以扩展到基础模型训练或开放科学发现。
而就在今年7月，南洋理工大学的IDEAgent又将科学构思直接定义为 Quality-Diversity Search（质量—多样性搜索）。
在这套系统中，模型的目标不再是生成一个最高分的点子，而是在有限的预算下，保留尽可能多条彼此不同的研究方向。它维护不同阶段的想法档案和谱系，并衡量一批结果中到底有多少条是真正值得继续追踪的。实验表明，这种设计确实能比普通的单轮生成和反思基线，留下更多彼此不同的高质量方案。
所以，这个方向并不是还没有人想到。恰恰相反，如何扩大潜在支持集、保护低概率分支，已经成为自进化研究的核心战场。
以上这些，是在Agent层面下功夫，在脚手架和外部循环上持续优化的路径。也有其他工作试图去修改后训练的训练奖励或优势函数，去奖励低概率但有价值的路线。
而当下影响比较大的，仍然是DGM或RHI（自进化Harness），包括可能更限制在外部持久状态更新的Loop Engeniring。这主要是因为，科研探索的奖励函数还没有成熟到值得写进模型里。冻结模型、调整脚手架，便宜、可回滚、可观察，也允许暂时保留多个互相冲突的方向。
而且直接进行后训练则成本更高，一旦奖励定义错了，还可能把错误的科研品味固化进整个模型。
即便如此，它们现在都还只是实验室中的尝试，并没有完全形成有效范式，也远未被前面实验中测试的主流模型的后训练完全吸纳。
它们虽然没有直接修改基础模型的权重，但都在模型外面完成了同一项工作：把一次性的答案生成，改造成一段可以分叉、回退和重组的搜索历史。
Loop在这里提供的，不是更聪明的单次答案，而是让一个想法有机会活过第一轮的失败。
缺乏一套自己长期相信的“偏见”
现实能提供意外，长期探索能让系统不那么急于收敛。但意外要能成为科学问题，还需要一个前提——系统原本就必须对结果有所期待。
看到一个数字与预期不同，并不自动等于发现了异常。研究者必须先有一套关于局部世界如何运转的判断，才能知道这个差异究竟意味着什么。
一个长期研究某项问题的人，脑中并不是平均地存放着整个学科的全部知识。他会逐渐形成一套非常具体的工作信念：哪些变量最重要，哪些机制更可信。这些判断未必正确，甚至可能带有强烈的偏见，但它们让研究者能够作出具体的预测，也让现实有机会真正地反驳他。
大模型拥有的，是范围极广的语言先验。它知道大量的理论，也能在不同的解释之间灵活切换。这种灵活性在回答问题时是优点，在科学研究中却可能成为一种缺陷。因为无论实验出现什么结果，模型通常都能立即找到一套事后说得通的解释。
当A上升时，它可以说机制M起了作用；当A没有上升时，它也可以说存在着抵消效应、边界条件或隐藏变量。它拥有很多可能的解释，却没有一套在本项目中被持续押注、能够因预测失败而真正失去可信度的解释。
而有效的怀疑，必须要更进一步。比如说：“根据机制M，在条件C下，干预A应该导致结果B；现在B没有出现，因此M所依赖的假设H可能有问题。如果H不成立，原先的解释和实验设计都需要重做。”
这里包含了一整套局部的信念、一个由此而来的明确预测、一次预测的违背，以及违背之后需要付出的理论代价。
这就是模型所缺少的局部信念机制，也只有在这种信念之下，模型才能真正提出框架性的怀疑，跨出文献概念的范畴，试图去寻找新的路径解释。
芝大论文《Contemporary AI》提到模型缺乏expected contrast（预期违反），实质上已经触及了这一点。模型之所以很少提出有意义的零假设，就是因为它缺少关于“这个领域原本应该发生什么”的持续局部认识。
芝加哥大学的论文将更深一层的能力称为computational curiosity（计算好奇心）。系统不只是生成最符合已有语料的解释，而是主动去寻找异常、矛盾、缺席，以及知识增益最大的下一次观测。它关注的不是已有共识的中心，而是自己的预测最可能失败的边缘。
但是，计算好奇心不能凭空出现。一个系统只有先形成局部信念，才能计算出什么是异常。
模型要形成一套属于当前项目的局部信念，至少得连续保留三类东西：一是自己此前相信什么，做过哪些实验；二是这些实验为什么成功或失败的分析；三是过去的结果必须改变它下一轮的判断。
否则，所谓的长期记忆只是一本越来越厚的实验日志，模型每次遇到新问题，还是会重新调用通用知识，临时编出一个听起来合理的解释。
人类研究者的信念通常就是这样长出来的。做得越久，他越知道哪些方向已经试过，哪些失败只是参数没调好，哪些失败则说明整个机制可能都不成立。由这些知识中，他也会逐渐形成一些非常具体的预期。正因为有这些预期，当现实没有按照预期发生时，他才知道哪里值得怀疑。
去年七月，图灵研究院和MIT共同搭建的AutoDiscovery系统，已经在尝试把这种“被结果改变”的路径放进科学搜索里。这个系统试图让新的实验结果，确确实实地去改变模型原来的看法。
它先让模型判断一个假设有多大概率成立，再跑数据分析，最后看结果让模型的判断变化了多少。变化越大，说明这项结果越出乎意料，也就越值得继续追踪。系统据此选择下一批假设，而不是只追求更多显著的相关性。
这个变化被定义为 Bayesian surprise（贝叶斯惊奇）。
在涵盖行为科学、经济、生物和金融等领域的21个真实数据集上，AutoDiscovery比其他搜索方法多找到了5%—29%的“惊奇发现”。在人类评估中，其中约三分之二的结果也会让领域专家感到意外。
这比“找到相关性就算成功”前进了一大步。它开始把科学探索理解为，优先寻找那些能够改变当前认识的证据。
但初版的AutoDiscovery还没有真正形成连续的局部信念。它在评估每一个新假设时，基本仍然调用的是同一个静态的大模型先验。前面已经完成的实验，并不会充分改变后面判断什么算“意外”的基准。
因为在当时，还没有现在这么完善的记忆性Harness。
而发表在2026年6月的《Evidence-Informed LLM Beliefs for Continual Scientific Discovery》已经具有了这样的Harness。它会把此前已经得到的证据重新找回来，交给模型，再让模型去判断新的假设是否意外。
这样一来，模型每做完一轮实验，下一轮的“常识”都会随之改变。
原来按照静态知识被判断为“惊喜”的结果中，有37.5%在加入了此前的证据后，其实已经不算新发现了，仅仅是旧结论的顺势延伸。系统过滤掉这些“假惊喜”，把搜索资源投向仍然真正未知的部分后，在五个领域中累计获得的有效惊喜，平均提高了30.62%。
作者发现，仅仅把静态惊奇换成动态惊奇，并不会自动提高发现效率。真正带来提升的，正是让新的信念状态继续参与到后续的搜索中。
这说明，局部信念不是给模型增加一个更长的资料库，而是让它拥有一段会改变今天判断的私人研究史。
昨天的发现，应该成为今天的常识。昨天排除的路线，今天就不该重新从头尝试。一项实验如果削弱了某个解释，下一轮就不能继续把它当作同样可信的候选。
只有做到这一点，多轮实验才会累积成研究，而不是许多彼此独立的问答。
但即便是到了这一步，当下模型虽然已经开始积累，形成了一些以单系列实验为主轴的局部观点，它通常还是只是在一套固定的概念里改变概率，并未触碰到跳跃发生的那个点。
不过无论如何，AutoDiscovery已经让实验结果开始影响搜索，而Evidence-Informed Beliefs则让过去的发现真正改变了后来的判断。
目前，为了Agent能够更好地学习而准备的记忆和短期参数迭代技术，最终将为这种贝叶斯路径提供足够的技术基础。
到这里，Loop又多了一层含义。它不只是反复做实验，而是要求昨天的实验，改变今天的先验。只有当每轮结果都留下认识上的后果，循环才不再是机械重复，而开始接近真正的科研积累。
贝叶斯的AI在门槛上，真正的跳跃还在那之后
根据上面的分析，到现在我们可以确认的是，Jeff Dean押注的，并不是“多循环几次就能突然变成爱因斯坦”，而是Loop正在把无记忆、无现实、无连续信念的语言模型，变成一套至少能够长期积累认识的系统。
回头看这一轮Agent的进展，最有意思的地方在于，许多技术最初并不是为了“AI科学家”而设计的，却正在一点点补齐科学研究最基础的那些条件。
长期记忆和Harness（智能体运行框架），让模型能够保留一段只属于当前项目的研究史。测试时训练、短促的参数更新和不断积累的Loop架构，则让这些经历不只是躺在档案里的旧记录，而能够暂时改变模型在下一轮如何理解问题。
Agentic RL（智能体强化学习）进一步把模型带出纯文本的世界，让它真正经历“采取行动—世界发生变化—得到新结果”的循环。成功留下证据，失败也留下关于环境边界、行动后果和错误假设的信息。
这些能力一旦被接到一起，模型就可能第一次拥有一种过去并不稳定存在的东西——围绕一项具体研究，不断变化的局部信念。
这就是真正意义上的“贝叶斯AI”开始出现的地方。
这可能正是AI科学家在完成真正的跳跃之前，首先必须达到的阶段。
AI首先要学会做一个好的贝叶斯主义者：维护假设，作出预测，进入现实，保存失败，根据证据更新自己，并让这一循环持续得足够长。
到那时，所谓的科研才真正成为可能。自进化也不再是泡影。
而跳跃，发生在这之后。
真正的理论突破，会发生在局部贝叶斯循环长期无法收敛的时刻。所有现有的解释都需要越来越多的补丁，预测误差始终无法消失，新的证据在不断积累，却没有任何一个候选模型能够真正容纳它们。
此时需要改变的，就不再是哪一个解释的概率，而是候选解释的集合本身。系统必须引入新的变量，拆开原来的研究对象，重新定义测量，或者发明一种此前根本不存在的描述方式。
但这仍是下一阶段的问题，也是先需要贝叶斯系统才有可能去解决的问题。
Jeff Dean之所以仍然押注自进化Loop，不是因为循环本身能够制造科学跃迁，而是因为AI甚至还没有成为一个能够长期积累经验、维护假设并被现实改变的贝叶斯研究者。
研究已经指明了方向，大厂也在补足Agent的基石。
那当下，就是贝叶斯时代的开端，也是模型将最快发展的时代。
Jeff Dean们现在跳船，恰逢其时。在这股浪潮正式到来之前，提前布局的，或许才能抓住定义下一个时代的机会。
毕竟，科学的真谛从来不是一次性找到终极答案，而是搭建起一个能够持续自我修正、不断逼近真理的系统。云栈社区上也有不少开发者在讨论，如何将这种持续迭代的Agentic思维应用到日常的技术架构中，这或许正是我们每个人都能触碰到的、最真实的未来序章。
发表于 1 小时前
|
查看: 3|
回复: 0
