DeliAutoResearch SKILL再进化：从6分到8分的自主科研实践，探究持续学习与自我迭代

DeepSeek 研究员陈德里（Deli Chen）与 AI 合作的第二篇论文正式公布。这篇新作聚焦 持续学习（continual learning） 与 自我迭代（self-iteration），陈德里将其视为迈向 AGI 过程中不可或缺的一步。

论文地址：https://victorchen96.github.io/continual_learning_survey.pdf

由于 arXiv 不允许将 AI 列为作者，这次实际承担了 99% 工作量的 DeepSeek-V4-Pro（负责文字）和 GPT-Image-2（负责图像）只能从作者栏移至脚注说明。陈德里认为，未来 AI 系统不会永远停在一组冻结参数上，而会逐渐演变为能够持续学习、自我更新、自我迭代的系统。背后的逻辑很直接：上下文管理和文档化记忆确实能在一定程度上帮助模型维持注意力、保留任务经验，但注意力窗口终究会被填满，届时必须把知识和经验参数化，以降低认知负担。

值得注意的是，这不只是论文主题的延伸，也是陈德里搭建的自主科研智能体框架 DeliAutoResearch SKILL 自身的一次迭代实验。

来源：https://x.com/victor207755822/status/2060315686329778432

据陈德里介绍，这一轮模拟同行评审分数达到了 8 分，相比上一篇论文的 6 分有明显提升。更重要的是，模型在论文生成过程中首次尝试调用更高级的语言模型，自主设计并运行实验——这也是此前版本尚不具备的能力。

更能体现系统变化的，是论文中披露的生产数据对比。陈德里在下方表格中对比了两篇论文的生成过程：从第一篇到第二篇，随着 SKILL 本身不断迭代，交互轮数大幅下降，而总 token 消耗显著上升。这反而是一个非常好的信号——说明 SKILL 正在向更高自主性转变。换句话说，人工介入变少了，系统自己想和做的部分变多了；对一个自动科研工作流而言，这正是走向更高自主性的标志。

陈德里表示，非常期待 DeliAutoResearch SKILL 在未来能够真正产出大师级学术写作。但他也坦言，在阅读论文的关键部分后，仍能看到不少提升空间——如果完全由自己亲自撰写，质量或许更高，但产出速度会大幅下降。由于当前核心目标并非打磨单篇论文，而是持续迭代 DeliAutoResearch SKILL 本身，他选择保留这篇论文中略显粗糙的部分，将其作为系统继续进化的反馈样本。

下面，我们来看看这篇论文究竟讲了什么。

为什么要统一持续学习和自我改进？

在传统研究中，持续学习和自我改进往往被视为两个不同方向，但它们面对的是同一个底层问题：模型如何在接收新信息或新目标之后更新自己，同时不破坏已经掌握的能力？

持续学习关注模型如何顺序适应新的任务或数据；自我改进则关注模型如何自主增强能力。但两者的技术难点高度相似——都要在分布变化下稳定优化，都要保留已有表征，都要处理探索与利用之间的权衡，也都要在没有固定测试集的情况下评估进步。因此，作者认为，下一代 LLM 训练管线必然会把外部数据流和模型自生成训练信号结合起来，形成紧密耦合的反馈循环。这意味着，统一研究这两个方向不是方便之举，而是必要之举。

核心贡献一：提出三轴统一分类框架

这篇论文最主要的贡献之一，是提出了首个同时覆盖大语言模型持续学习与自我改进的分类框架，并将其组织在三个相互正交的维度上：

• 更新什么：被更新的是知识、技能、对齐能力还是推理能力；
• 如何更新：采用哪一类方法；
• 何时更新：更新发生在离线阶段、周期性阶段、在线阶段，还是由特定事件触发。

这个三轴框架（见下图）能够对任何部署后的学习系统进行精确刻画，并揭示不同方法之间此前未被充分认识到的联系。

核心贡献二：五大方法类别的系统分析

论文系统分析了 100 多篇论文，并将其归纳为 五类方法：基于正则化的持续学习、回放与经验管理、参数高效与模块化方法、自我改进与自博弈，以及在线自适应方法。对于每一类方法，都形式化描述其核心机制，分析其理论性质，并比较了代表性方法。

核心贡献三：形式化刻画自我改进的收敛条件

论文对迭代式自我改进在什么条件下能够保证收敛而不是发散进行了形式化分析，并将来自自博弈、迭代蒸馏和 Constitutional AI 等研究方向中分散的理论结果，统一到同一个框架之下。论文认为，自我改进代表了一种范式转变：模型能力提升正在从依赖人类监督，转向由模型自主驱动。所提及的方法覆盖了很宽的范围——从训练阶段的自博弈，通过多轮迭代修改模型权重；到推理阶段的推理增强，提升每一次单独预测的质量；再到理论分析，划定自我改进究竟能够达到什么边界。

这些方法的共同点在于，它们都需要某种 grounding signal，即可靠的锚定信号。这个信号可以是验证器、一套宪法原则、人类偏好数据，也可以是问题本身的结构。没有这样的锚定信号，自我改进的循环最终必然会退化。如下图所示，自我改进的轨迹并不取决于生成机制有多复杂，而取决于评估信号的质量，以及它相对于模型自身的独立性。

核心贡献四：提出六个开放挑战

在最后，论文指出了生成式模型持续学习走向成熟过程中亟待解决的六个关键问题，并基于系统分析所揭示的研究空白，为每个问题提出了未来研究方向：

• 大模型规模能否解决灾难性遗忘：更大的模型确实可能更不容易遗忘，但规模不是根治方案。随着任务持续增加，即使大模型也会遇到容量、干扰和对齐漂移问题。未来需要研究的是，大模型规模如何影响稳定性-可塑性权衡，以及是否存在可预测的 Scaling Law。
• 自我改进的理论极限：模型能否无限自我提升？什么时候会收敛？什么时候会坍塌？尤其是在缺少外部验证器的语言任务中，模型很容易陷入自我确认——它会不断强化自己已经相信的模式，而不一定更接近真实目标。
• 多模态持续学习：未来模型不只处理文本，还会处理图像、音频、视频和行动数据。多模态模型持续学习时，一个模态的更新可能影响另一个模态。例如更新视觉生成能力，可能影响语言理解；更新语言对齐，也可能影响图像生成行为。如何跨模态保留能力，是未来研究中需要解决的难题。
• 安全的持续对齐：模型持续学习时，安全边界也必须持续保持，问题在于任何更新都可能削弱原有对齐能力。因此，未来需要“可证明安全”的持续对齐机制：模型变得更强的同时，安全约束不能被遗忘或绕过。
• 部署时“实时学习”：实时服务要求低延迟和高稳定性，而在线学习需要计算梯度、更新参数、验证质量、避免回归等，这两者天然冲突。因此，真实部署中需要设计分层更新机制：哪些变化即时处理？哪些变化延迟批处理？哪些变化必须经过安全审查后才能进入参数？
• 与 Agent 框架结合：智能体会在长期任务中积累经验，比如工具调用结果、失败教训、用户偏好、环境反馈等。问题是：什么时候把短期经验写入长期记忆？什么时候应该更新参数？哪些经验只是偶然事件，哪些经验代表稳定规律？论文认为，未来需要层级记忆架构，让 Agent 同时拥有短期情节记忆和长期参数知识，也需要多智能体持续学习机制，让多个 Agent 共享并整合经验。

写在最后

论文的核心判断是：持续学习和自我改进正在走向融合。真正有前景的方向，是构建这样一种模型——它既能吸收外部世界的新知识，也能利用自我反思、自我验证和自我搜索来改进学习策略；既能变得更强，又能保持稳定与安全。简言之，不只是训练得更大，而是能不能在不遗忘、不失控的前提下，持续学习、持续对齐、持续自我进化。

那么你呢，如何看待这篇“AI写的论文”？欢迎到云栈社区分享你的观点。

参考链接：
https://x.com/victor207755822/status/2060315686329778432
https://victorchen96.github.io/continual_learning_survey.pdf