The Mechanisms, Recent Research, and Industrial Deployment Paths of Recursive Self-Improvement (RSI)

最近听了田渊栋关于 RSI 的访谈，又陆续看了 Darwin Gödel Machine、AlphaEvolve 等相关研究，感觉这个方向值得聊一聊。过去几年，我们关注的主要是大模型能够完成什么任务，从文本生成、逻辑推理到代码编写，再到如今能够自主规划和执行任务的 Agent。而 RSI 讨论的是另一个问题：当 AI 已经具备一定的研究和开发能力之后，能否让它参与自身的改进，并通过这种改进不断增强后续的研究能力？ 这个问题其实很早就有人讨论，只是直到最近，才逐渐具备了可以开展工程验证的技术条件。 一、RSI 是什么，为什么现在值得关注？

RSI 的全称是 Recursive Self-Improvement，即递归自我改进。理解它的关键是“递归”： /AI 系统通过自身的研究活动获得改进，而改进后的系统又能以更强的能力开展下一轮研究。/

举个例子，现在的 Coding Agent 已经可以自动优化某个 GPU Kernel，通过修改代码、运行测试和分析结果，最终找到性能更好的实现。如果我们进一步让它分析自己的研究过程，改进候选生成、实验选择或上下文管理机制，使下一轮算法优化更加高效，那么改进对象就从外部程序扩展到了研究系统自身。如果这种能力能够持续传递，便形成了 RSI 所关注的递归反馈。

这一思想可以追溯到 1965 年 I. J. Good 提出的智能爆炸假说。他设想，如果机器能够设计出比自己更强的机器，那么下一代机器又可能设计出更强的后继者，从而形成持续增强的智能反馈。后来，Schmidhuber 的 Gödel Machine 尝试从形式化的角度研究自我修改，要求系统证明修改能够提高预期效用。不过，复杂 AI 系统的行为很难通过严格的数学证明完整覆盖，因此现代研究逐渐转向基于实验反馈的自我改进。

过去的 AutoML、神经网络架构搜索和强化学习，已经在一定程度上实现了机器自动优化模型或策略，但搜索空间和优化目标通常由研究者提前定义。大语言模型的发展改变了这一条件，尤其是 Coding Agent 开始能够理解复杂代码、修改训练算法、组织实验并分析结果，自动化搜索的对象和范围因此得到扩展。

田渊栋在访谈中也谈到了这一变化。大模型编程能力和对 AI 研究对象的理解能力逐渐成熟，使自动化科研具备了更现实的基础。毕竟，无论是模型结构、训练算法还是推理优化，最终都需要通过程序实现。当 AI 能够理解和修改这些程序时，也就获得了直接参与 AI 研发过程的能力。 二、RSI 的核心机制是什么？

从技术上看，RSI 可以理解为两个相互关联的反馈循环。第一个循环负责完成具体的研究任务，第二个循环负责改进执行这些研究任务的系统本身。

第一个循环已经相对容易理解。研究 Agent 根据目标提出假设，生成候选方案，通过 Sandbox 执行实验，再由 Evaluator 根据性能、正确性和成本等指标进行验证。有效方案被保留，系统继续开展下一轮搜索。FunSearch 和 AlphaEvolve 都体现了这种机制，通过语言模型生成候选程序，结合可执行评估与演化搜索，不断发现更好的算法实现。

第二个循环才是 RSI 真正需要解决的问题。系统在研究过程中积累的经验，需要能够反过来改进自己的研究策略、工具或模型能力。例如，某个研究 Agent 发现，大量实验消耗在重复的无效候选上，于是修改自身的搜索策略和历史实验检索机制。如果新版本能够在相同预算下找到更多有效改进，那么研究能力就获得了提升。进一步让新版本继续修改自身，才有可能形成持续的递归过程。

这里涉及几个关键技术问题。 首先是修改边界，系统究竟可以修改 Prompt、Agent Harness、工具代码，还是进一步修改模型参数与训练算法？不同层次的修改涉及完全不同的成本和风险。 其次是评估机制，如何确认一次修改真正增强了系统能力，特别是要避免通过修改测试条件获得虚假收益。 最后是能力继承，研究过程中形成的代码、实验结果、失败经验和策略改进，需要作为长期资产保存，并能够被后续版本有效利用。

这也意味着，RSI 对 Agent Runtime 提出了新的要求。除了任务规划、工具调用和上下文管理，系统还需要支持实验编排、版本分支、独立评估和研究状态持久化。尤其是研究过程中的经验，只有能够改变后续研究行为，才真正具有递归改进的价值。 三、目前有哪些真正接近 RSI 的研究？

我认为，近期最值得关注的是 Darwin Gödel Machine（DGM） 和 AIDE²，它们都开始直接研究智能体自身的能力改进。

2025 年提出的 DGM，允许编程智能体直接修改自己的代码，通过编程基准测试判断修改效果，并保留多个历史版本形成的演化分支。它的一个重要设计是开放式探索：系统可以从不同历史版本继续搜索，从而减少只保留当前最优解带来的局部最优问题。论文报告，在特定实验条件下，系统在 SWE-bench 上的成绩从 20.0% 提升至 50.0%。这说明，智能体可以通过修改自身程序改善任务表现，而不必始终依赖人工调整执行机制。

2026 年的论文 Recursive Self-Improvement of AI Research Agents 则进一步提出了 AIDE²，直接将 AI 研究智能体自身作为改进对象。系统通过修改研究 Agent 的代码，再利用独立的 AI 研发任务进行评估，让经过验证的新版本继续执行下一轮修改。论文报告了连续八天运行期间的七次连续改进，涉及搜索策略、上下文管理等机制，并在部分未参与优化选择的任务上观察到了能力迁移。

这些研究让 RSI 从理论构想进入了可以进行实证分析的阶段。不过，目前证明较充分的，仍然是特定任务和特定系统结构下的自我改进。基础模型自身能否持续设计出更好的训练算法、模型架构，甚至形成跨领域的自主科研能力，还需要进一步验证。

这也对应着田渊栋在访谈中强调的一个问题：AI 已经可以承担不少科研执行工作，但科学研究还包括发现重要问题、提出新的概念、建立理论解释以及判断研究方向的价值。Coding Agent 的进步解决了大量执行层面的困难，更高层次的科研判断仍然是需要突破的能力边界。 四、RSI 可以如何进入工业场景？

从目前的技术成熟度来看，我认为 RSI 最适合先进入 AI Infra，尤其是模型训练、推理优化和算法工程。这些领域具有较好的共同条件： /研究对象可以通过代码表达，实验能够自动执行，结果可以通过明确的性能指标进行比较。/

以推理系统为例，现在我们需要根据模型、硬件和负载特征，不断调整并行策略、批处理参数、缓存机制以及底层计算算子。如果引入研究 Agent，系统便可以根据运行指标分析性能瓶颈，自动生成候选配置和实现，再通过隔离实验选择更好的方案。进一步，还可以利用历史实验积累的经验改进搜索策略，使系统面对新的模型和硬件环境时减少重复探索。

训练系统也有类似机会，例如学习率策略、数据配比、优化器和训练调度，都可以作为自动化研究对象。不过，训练实验的成本通常更高，小规模实验获得的结论也未必能够迁移到大规模训练，因此需要分阶段验证和严格的计算预算管理。

如果把这些能力放进现有的 Agent 架构中，会发现所需的底层组件并不陌生。Agent Runtime 负责研究规划与工具调度，Sandbox 提供隔离执行环境，实验平台负责计算资源管理，Evaluator 负责结果验证，而代码仓库、对象存储和实验数据库则保存跨版本的研究资产。

真正需要进一步建设的是 跨代际的能力评估机制。一次优化带来了多少性能收益，比较容易测量；优化后的研究系统是否更擅长发现新的优化方案，则需要设计独立任务，并在相同计算预算下比较不同版本的表现。

从企业投入产出的角度，还需要考虑研究成本。自动化系统能够执行更多实验，并不意味着研发效率必然提高。如果为了找到一个收益有限的优化方案消耗大量算力，实际价值可能并不高。因此，单位计算预算内的有效改进数量、研究结果的可迁移性，以及后续版本的研究效率，应该成为比实验次数更重要的指标。 五、RSI 会怎样影响未来的 AI 发展？

RSI 最值得关注的潜在影响，是 AI 研发效率可能形成新的积累机制。过去，模型研发主要依赖研究人员、算力资源和实验周期。如果 AI 能够持续参与研究，并且研究成果可以进一步增强下一轮研究能力，那么研发效率就可能产生更强的正反馈。

这种变化首先会影响科研组织和 AI 基础设施。研究者可以将更多精力投入问题定义、研究判断与关键实验设计，自动化研究系统则承担大量候选探索、代码修改和实验验证工作。AI Infra 也可能逐步从资源管理与任务执行平台，发展出持续优化模型、算法和计算系统的能力。

但递归改进能否最终带来智能爆炸，现在下结论可能还有点早。研究能力提升可能受到算力、数据、验证成本和算法瓶颈的共同限制。即使系统能够连续完成多次有效改进，也无法直接推导出长期指数式增长，更无法保证这种能力能够自然迁移到开放式科学研究。

从目前公开的论文来看，RSI 已经具备早期工程基础，但距离通用、持续、可靠的递归自我改进还有相当长的研究路径。

我比较关注的是它对 Agent 技术架构的影响。当前大多数 Agent 的生命周期仍然围绕一次任务展开，即使保存了记忆和历史记录，执行系统本身通常也不会因此发生实质性的能力变化。而 RSI 进一步要求研究成果能够进入后续版本，使系统的执行策略、工具和研究方法随着任务积累持续改善。

沿着这个方向，未来的 Agent Runtime 可能需要从任务执行管理进一步扩展到能力版本管理、实验评估和长期演进管理。

对于 RSI，真正值得持续观察的，是 AI 能否越来越有效地改进自身的改进能力。 这也是递归自我改进区别于普通自动化优化的核心所在。