百度发布 ERNIE Evolve 自动化 AI 研究与推理优化系统
Baidu’s ERNIE Evolve Automates AI Research and Inference Optimization
百度发布 ERNIE Evolve，一个可自动选择研究方向、修改代码并运行实验的系统，只保留通过独立评估与审查的改进。百度称其在 NanoChat 五分钟训练任务上验证 bits per byte 为 0.8763，优于公开对比的 0.887791；在 NanoGPT Speedrun Track 1 上以 38.92 秒达到 3.28 FineWeb 验证损失，对比为 39.9 秒。该系统还用于 ERNIE-5.5-Flash 的推理优化，在昆仑芯 P800 上经四轮研究将生成速度提升至基线的 623.6%，单请求 GPU 解码提速 14.9%。在 SOL-ExecBench 上其 0.819 分未超过对比的 0.827 领先成绩。
正文 · AI 翻译
百度于2026年11月9日推出ERNIE Evolve，并报告称其在NanoChat和NanoGPT的三项指标上优于公开对比结果，且在一次确定性的ERNIE-5.5-Flash推理测试中吞吐量提高了33.7%。该自动化研究系统负责选择研究方向、修改AI代码，并且只保留通过独立评估与审查的改进。
公告还介绍了针对开发中的ERNIE-5.5-Flash正在进行的主动推理工程工作。该系统的作用不止于编写代码：它选择探究方向、执行测试，并利用失败与成功来指导后续迭代。
给定一个代码仓库、一个优化目标和评估标准，ERNIE Evolve会在隔离环境中修改代码并运行实验。外环的Director利用以往实验的Experience Bank以及包含论文、开源代码和领域知识的知识库，选择一个方向和起始版本。并行通道中保存着候选版本树；在每个通道内，Selector选择一个候选方案和假设，Executor负责实施变更。
是否接受取决于固定的Evaluator和独立的Reviewer。Evaluator位于仓库之外，对智能体不可见，会排除超出范围的变更，并要求增益高于噪声阈值。Reviewer检查是否符合研究方向，并丢弃利用评估漏洞的取巧方案。偏离方向的候选方案不能成为最佳版本。
百度报告了以下结果，并与评估中使用的公开对比结果进行了比较：
任务与条件 指标 ERNIE Evolve 公开对比
NanoChat AutoResearch，在单张B200上训练五分钟 验证bits per byte，越低越好 0.8763 0.887791（10个随机种子的均值）
NanoGPT Speedrun Track 1，八张H100 GPU 达到3.28 FineWeb验证损失所需秒数，越低越好 38.92秒（18次运行） 39.9秒
NanoGPT Speedrun Track 3，固定数据、批大小和架构 达到3.28 FineWeb验证损失所需步数，越低越好 2,590（八次运行） 2,690（八次运行）
SOL-ExecBench，235个内核问题 相对于分析式B200 roofline的平均speed-of-light得分，越高越好 0.819 0.827（领先成绩）
在NanoChat上，ERNIE Evolve在神经网络之外增加了两个预测分支：一个使用训练语料的n-gram统计，另一个检索匹配文档并根据其后续内容进行预测。一个学习到的门控利用各分支在较早token位置上的表现来调整混合比例。
结果仓库发布最终代码和测量日志，执行的代码嵌入每个日志中或通过其SHA-256标识。其中列出了七个SOL-ExecBench内核产物，得分为0.6669–0.9920；NVIDIA的任务定义和工作负载数据未再分发。
SOL-ExecBench这一行对整体结果作出了限定：ERNIE Evolve并未在列出的每项指标上都领先，尽管百度的对比显示其在该任务上领先于Recursive和Hyra-1.0。
ERNIE-5.5-Flash的推理优化
百度将ERNIE Evolve应用于昆仑芯P800上的低延迟推理、GPU上的确定性推理吞吐量以及单请求解码速度。大多数基线已由工程师优化过，且变更必须通过与工程师提交工作相同的负载测试和正确性检查。
在昆仑芯P800上，百度报告称四轮研究将生成速度提升至基线的623.6%，同时通过了正确性检查，且模型和部署设置保持不变。早期轮次启用了融合的流形约束超连接和推测解码，随后减少了主机侧调度和同步开销。第四轮的调度修复启用了DeepEP的低延迟路径。
对于强化学习训练，确定性任务要求生成的token和log概率无论批组成如何都逐位相同，并与全序列重计算一致。SGLang的确定性模式通过固定归约顺序来支持这些要求，但这限制了GPU利用率。百度报告称，经过约三天，这项工作还将每个输出token的平均时间减少了26%，首token时间减少了12%，同时保持了确定性。最大的单项增益来自替换确定性采样——它此前每步消耗约14%的GPU时间——改用并行处理词表块的Triton内核。
对于单请求GPU解码，百度报告称在已经过工程师调优的服务上实现了14.9%的速度提升，且准确率不变。七个研究方向中有三个产生了增益。其中包括对输入行数少于八行的FP8矩阵乘法使用原生FP16指令，以及用两级混合专家调度器替换顺序专家扫描。
这些测试还暴露出更严格的模块和确定性约束、与单项增益相当的测量噪声，以及横跨推理引擎、内核库、硬件插件和服务启动脚本的环境。一些有用的变更小于噪声，因此候选方案必须在端到端负载测试中证明其价值，而不是仅靠孤立的内核测量。
百度计划将该循环应用于训练系统优化，然后使用模型能力指标来指导自动化假设生成、实验设计和验证。其长期目标是让AI识别能力差距并生成和细化评估任务。
该公司表示，递归自我改进必须保持人类可控且可中断，在目标、权限和资源的明确边界内进行，并持续进行安全评估和人工监督。从固定的工程指标转向模型能力和基准设计，使得这些评估和监督控制成为研究循环能扩展到何种程度的核心。