←新闻详情

腾讯混元 Research更新于 10月14日 12:28

腾讯混元发布科学发现智能体 Hyra

Hyra: 简单有效的科学发现智能体

AI 导读

腾讯混元发布科学发现智能体 Hyra,采用 Context Agent 维护经验库、多个 Proposal Agent 生成并沙盒评估 solution 的异步流水线,无评估器时升级为双层循环让评估器与 solution 共进化。在 NanoChat Autoresearch、NanoGPT Speedrun 和 SOL-ExecBench 三项任务上,Hyra-1.0 分别取得 Validation BPB 0.9015、Time to 3.28 loss 76.4s 和 Mean SOL 0.771,均超过 Recursive 报告的结果。在 55 个数学开放问题中,Hyra 于 29 个上刷新历史最好结果,相关结果已在 GitHub 开源。

推荐理由

AI 评分 71

腾讯混元公开 Hyra 的通用 Harness 设计与十余个场景实测结果,可看到同一套研究循环如何迁移到不同反馈环境。

主题

标签

正文

过去一年,!!#0080e6 递归自我改进(RSI)!!与 !!#0080e6 自动化研究!! 成为 AI 领域最活跃的前沿问题之一。Google DeepMind 的 AlphaEvolve[^ref1] 只用 48 次标量乘法就完成了 4×4 复数矩阵相乘。Together AI[^ref2] 让一群智能体在开放环境中协作,把 11 维 kissing number 的已知下界从 593 推进到 604。Andrej Karpathy 的 autoresearch[^ref3] 展示了一套精简的循环,让模型训练研究自主运转。此后,一批进化型系统接连涌现:智能体正在跨越封闭的基准测试,在开放的科学发现中超越人类。

今天我们介绍Hyra:在!!#0080e6 更丰富多元的高价值环境!!中,以一个!!#0080e6 **简单有效的通用框架**!!,把智能和算力转化为真实且实用的收益。在腾讯,这个舞台格外宽广:除了公开基准,它还能在!!#0080e6 产品系统!!里,在!!#0080e6 真实的 AI 研发流水线!!上,在!!#0080e6 自然科学研究!!乃至!!#0080e6 工业场景!!里学习和进化。以下我们展示:Hyra如何使用一个简单通用的Harness,在AI for AI、AI for Science、AI for Fun等十余个不同的场景产生价值。

## Hyra Harness

@@@videoList title = "" description = "" footer = "Hyra loop 示意图:Context Agent 维护 Experience Bank,持续产生一个又一个灵感上下文进入队列,多个ProposalAgent 从队列中领取上下文,生产更好的 solution。solution 以 solve.sh 作为入口,在独立沙盒里运行并打分,将产物提交到 Experience Bank。在主动退出或预算耗尽后,Hyra 可以根据产物状态决定是否改进评估机制,基于更好的打分标准启动下一轮循环。"

Hyra 的 Harness 设计原则遵循 !!#0080e6 The Bitter Lesson!![^ref4]:框架尽量轻量简单,智能体的动作空间尽量广阔。给定任务描述,Hyra 持续运行一个循环:基于历史经验探索提出更好的 solution。历史经验包含过去 solution 运行的日志、评估器反馈、solution 的源代码等。循环直到 Agent 主动结束或预算耗尽,最终返回历史最优的方案。Hyra Harness 包含:

- 一个 **!!#0080e6 Context Agent!!**,职责包含维护一个经验库(Experience Bank,EB)数据结构;将探索过程中提出的 solution 及其评估结果写入 EB;从 EB 中整合出一份又一份「灵感」(inspirations),送进任务队列以供新的 solution 被提出。所谓「灵感」,是一组上下文,可能包含 EB 中各种形式的代码、文件、产物、日志,作为 Hyra 在探索过程得到的经验信息,启发未来更好的 solution 的创造。 - 多个 **!!#0080e6 Proposal Agent!!**,每个 Proposal Agent 每次负责从任务队列中领取一份灵感上下文,根据对上下文的反思写出一份新的 solution(一个带有`solve.sh`作为入口的`solution/`文件夹),写好后就在全新沙盒里运行、评分。Context Agent 会将灵感准备得尽可能多样化,让 ProposalAgent 可以朝着多样的方向探索。

Hyra 系统是一个异步的**!!#0080e6 生产者-消费者流水线!!**:Context Agent 不断整理灵感上下文,填满任务队列;ProposalAgent 负责把队列抽空,将写好的 solution 交给沙盒执行以及评估;运行完毕的 solution 被提交入 EB。整个流水线受信号量控制,保证沙盒、模型推理、任务队列等资源被健康地满载,solution 的质量随时间的增加高效扩展。

对于未提供评估器的问题,Hyra会将!!#0080e6 单层循环!!升级为!!#0080e6 双层循环!!:首先,由 Hyra 根据任务描述设计一个初版评估器,内层循环基于该评估器反复优化 solution;当内层循环结束后,Hyra 会结合当前 EB 中积累的经验历史进一步优化评估器(例如:提升评估代码效率;减少 reward hacking 风险;加强评估粒度;允许更大进步空间等),并使用升级后的评估器开启下一轮循环。例如,当任务是“设计一个世界冠军级别的国际象棋AI”时,初版评估器可能是一个由若干随机生成的 AI 组成的天梯,并以 Elo 分数作为评估指标;随着循环推进,评估器中的对手可能逐步升级为 EB 中纪录的更强 AI,从而实现 eval 与 solution 的共进化。

## Hyra Demos

基模研发包含大量可执行、可评估、可迭代的研究循环,是 Research Agent 最自然的应用场景之一,也是走向递归自我改进的现实起点。!!#0080e6 训练 recipe!!、!!#0080e6 数据策略!!、!!#0080e6 训练与推理系统!!、!!#0080e6 底层算子!!和!!#0080e6 评估体系!!,都需要研究者持续提出假设、实现方案、运行实验并根据反馈迭代;Research Agent 则可以将每一次成功与失败沉淀为经验,在远大于人工实验频率的搜索空间中持续探索。

我们在 Recursive 自动化 AI 研究系统[^ref6]采用的三项任务上测试 Hyra:NanoChat Autoresearch[^ref3]、NanoGPT Speedrun[^ref7] 和 SOL-ExecBench[^ref8],分别覆盖固定预算训练、训练速度优化和 GPU kernel 优化。为保证直接可比,我们复用了 Recursive 的公开设置,包括相同的任务定义、评测协议和初始化 solution:NanoChat 从相同的初始 seed solution 出发,NanoGPT 从相同的领先方案出发,SOL-ExecBench 则在相同的 235 个 kernel 与 B200 评分协议下评测。Hyra-1.0 在三项任务上均超过了 Recursive 报告的结果:

|Benchmark|任务|指标|Recursive|hyra-1.0| |:-:|:-:|:-:|:-:|:-:| |NanoChat Autoresearch|模型训练|Validation BPB ↓|0.9109|**0.9015**| |NanoGPT Speedrun|模型训练加速|Time to 3.28 loss ↓|77.5s|**76.4s**| |SOL-ExecBench|优化 GPU kernel|Mean SOL ↑|0.754|**0.771**†|

*!12 † 为与 Recursive 的汇报口径保持一致,本指标采用 Evaluation Stack v1.0 的评测设定,结果来自本地运行。 相关问题已在研究社区中经过长期、充分的探索与优化,因此现有基线本身已具有较强的竞争力。!*

在 NanoChat Autoresearch[^ref3] 上,Hyra 需要在固定预算内联合权衡模型结构、优化器、学习率策略、数据流和执行效率,最终将 Validation BPB 降至 **0.9015**。在经过长期社区优化、剩余提升空间极小的 NanoGPT Speedrun[^ref7] 上,Hyra 将达到 3.28 validation loss 的时间进一步缩短至 **76.4s**。在 SOL-ExecBench[^ref8] 上,Hyra 面向真实工作负载联合优化 235 个 kernel,当前 Mean SOL 达到 **0.771**。三项结果横跨训练算法、训练系统与底层算子,表明同一套研究循环能够迁移到不同反馈环境,并持续产生可执行、可验证的改进。

更强的搜索也会更快触及评估器边界。我们观察到,NanoChat 中的 solution 曾将因果语言模型改造成近似双向注意力的结构,通过泄漏未来 token 异常降低 BPB;SOL-ExecBench 中的 solution 也曾在正确性检查阶段缓存输出,再在计时阶段运行空 kernel。它们在指标上表现优异,却没有真正完成任务。

因此,自动化研究不能只优化最终分数,eval本身也必须成为研究循环的一部分。随着 solution 的搜索能力不断增强,evaluator 与 validation pipeline 也需要同步演化,持续区分真实进步与 reward hacking。对 AI for AI 而言,更强的 Research Agent 加速模型、训练系统和基础设施研发;改进后的 AI 系统,又反过来增强下一代 Research Agent。

### AI for Science

我们从EinsteinArena[^ref10]、Erich's packing center[^ref11]等数据库中搜集了55个数学开放问题,其中许多问题在数十年间都未取得进一步进展。Hyra在其中!!#0080e6 **29个**!!问题上刷新了历史最好结果,展示出进行!!#0080e6 大规模数学发现!!的潜力。详细结果也都在[Github Repo](https://github.com/Tencent-Hunyuan/hyra-results)中开源。

我们也将天文观测、地质活动、甚至宏观经济等数据交给Hyra,让它从数据中发现规律。例如,我们向Hyra提供了1749年至1932年的逐月太阳黑子数据[^ref12]。Hyra发现了一个用于!!#0080e6 预测太阳黑子数的递推公式!!,并在1932—2026年近一个世纪的样本外纪录上取得了$R^2=0.77$的预测精度。类似地,Hyra也可以通过观察AI模型训练日志,发现模型的scaling law[^ref13],指导训练recipe的设计。

除了从实验数据中发现规律,Hyra还可以直接设计科学与工程产物,下面是三个代表性案例。

- Hyra设计出了一个!!#0080e6 仅含15个可训练参数、即可完成10位数加法的Transformer!!,相比Adderboard[^ref14]公开纪录中的36个参数减少了58.3%。这一结果不仅刷新了参数规模,也说明Hyra能够在严格资源约束下联合搜索模型结构与计算机制,为研究神经网络能力边界、追求极致性能的模型压缩提供帮助。 - 在量子计算中,逻辑量子比特需要被映射到真实芯片有限的耦合拓扑上;不相邻量子比特之间的操作通常需要插入SWAP门,带来额外的双比特门开销与噪声。Hyra设计的!!#0080e6 量子比特路由算法!!在IBM Q20上相比经典SABRE[^ref15]将路由效率提升了44.4%。更少的双比特门通常意味着更短的执行时间和更低的累计误差,为受噪声限制的量子设备提供了更高效的电路执行路径。 - PARP1(多聚ADP-核糖聚合酶1)是DNA损伤修复的关键蛋白酶。因其与具有同源重组修复(HRR)缺陷的肿瘤细胞产生“合成致死”效应,PARP1已成为精准抗癌的明星靶点。我们给定PARP1靶点口袋,要求Hyra产生结合稳定成药性好的候选分子。Hyra最终得到了在结合-成药联合评分上显著超过已上市PARP抑制剂olaparib的候选分子。这一结果展示了Hyra在!!#0080e6 多目标药物设计!!中的潜力;需要强调的是,目前得到的仍是初步模拟筛选的结果,后续还需经过更严格的模拟、合成与湿实验验证。

### AI for Fun

除了模型研发与科学发现,Hyra 还可以进入!!#0080e6 游戏!!、!!#0080e6 设计!!和!!#0080e6 内容创作!!等开放场景,根据自博弈、自评价和用户反馈持续迭代策略产物。与固定基准不同,这些任务通常不存在唯一正确答案;Research Agent 不仅需要搜索 solution,还需要把主观目标转化为能够不断改进的反馈信号。

以下是三个对目前的 coding agent 不常规,但却有趣的例子:

- 我们让 Hyra 通过自对弈持续设计和优化一个!!#0080e6 黑白棋对弈bot!!。评估器采用双循环比赛:新方案与经验库中的高分bot对战,并根据Elo保留top-k选手,形成随搜索过程不断增强的对手池。Hyra 的策略从 MinMax 搜索,逐步演化到结合 AlphaZero 式的 PUCT 与 MCTS 的混合方案。生成的 bot 最终在 Botzone[^ref16] 的 730 个参赛程序(大多数由北大计算机专业同学设计)中排名第3。

左:hyra开发的黑白棋bot的天梯排名;右:hyra开发的bot(白方)的对局实例展示。

- 我们让 Hyra 仅根据一张 2D 参考图像!!#0080e6 设计物体的三维结构!!,并生成可渲染的 3D 模型。我们使用基于 rubrics 的 VLM judge,从轮廓、比例、结构完整性、材质和视觉相似度等维度评价结果。Hyra 在多轮探索中持续修改建模代码和渲染参数,相比使用 Claude Code goal 模式[^ref17]生成的模型,更接近参考图像,也更符合人类审美。

Hyra根据单张2D参考图像持续优化建模代码与渲染参数,生成更完整、更接近参考图像的3D模型。

- 我们还向 Hyra 提供一段主旋律,要求它为多种乐器!!#0080e6 编写完整和声!!。内层循环使用固定规则的 evaluator 检查和声、和弦进行、节奏密度、音域冲突等;外层循环则根据用户反馈调整评估器,使系统逐渐理解用户难以预先形式化的偏好。经过7轮进化,同一段旋律从四声部同乐器、十六分音符泛用、充满大三和弦进行的保守颂歌式和声,逐步发展为多乐器,带减和弦、六和弦、灵活节奏和丰富色彩的完整配器。

Round 1 · 初始配器 四声部、同类音色与较规整的节奏,整体更接近保守颂歌。

你的浏览器暂不支持音频播放。

Round 4 · 结构展开 开始引入不同乐器分工,并减少机械重复的十六分音符型。

你的浏览器暂不支持音频播放。

Round 7 · 和声着色 减和弦、六和弦与更灵活的节奏进入配器,色彩明显增加。

你的浏览器暂不支持音频播放。

这些实验表明,Research Agent 的价值并不限于求解具有单一标量指标的问题。当反馈来自对手、视觉模型或真实用户时,Hyra 仍然可以将模糊目标转化为可迭代的搜索过程;而当现有评估标准不足时,solver 与 evaluator 也可以在双层循环中共同演化。

## The path forward

我们相信,!!#0080e6 简单有效!!的Hyra具有无限潜力。本文展示的仍是 Hyra 非常初步的demo:接下来要做的,是定义更多有价值、且能被持续提升的任务:公开基准之外,腾讯的产品系统、真实 AI 研发流水线、自然科学与工业场景,都能拆成可执行、可验证、有明确反馈的问题。

我们希望由此转动 !!#0080e6 scaffold–data–model 的进化循环!!:更好的 scaffold 产出更好的数据与经验,锻造更强的模型,更强的模型又驱动更强的 scaffold 与更多发现。新一代 Hy 模型、乃至腾讯的部分产品,都会与 Hyra 持续共进化。

[^ref1]: Google DeepMind,**“AlphaEvolve: A Gemini-powered Coding Agent for Designing Advanced Algorithms”**,官方技术博客:https://deepmind.google/blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/

[^ref2]: Together AI,**“Einstein Arena”**,介绍多智能体开放式数学探索及相关结果的官方文章:https://www.together.ai/blog/einsteinarena

[^ref3]: Andrej Karpathy,**autoresearch**,用于自动化模型训练实验循环的开源项目:https://github.com/karpathy/autoresearch

[^ref4]: Rich Sutton,**“The Bitter Lesson”**,关于通用计算与搜索方法长期优势的经典文章:https://www.incompleteideas.net/IncIdeas/BitterLesson.html

[^ref6]: Recursive,**“First Steps Toward Automated AI Research”**,自动化 AI 研究系统及公开实验设置说明:https://www.recursive.com/articles/first-steps-toward-automated-ai-research

[^ref7]: Keller Jordan 等,**modded-nanogpt / NanoGPT Speedrun**,面向训练速度优化的公开项目与排行榜:https://github.com/KellerJordan/modded-nanogpt

[^ref10]: **EinsteinArena**,收录开放数学问题与机器发现结果的研究平台:https://einsteinarena.com/

[^ref11]: Erich Friedman,**Erich’s Packing Center**,收录各类几何 packing 问题与已知最佳构造的资料站:https://erich-friedman.github.io/packing/

[^ref12]: SILSO / Royal Observatory of Belgium,**Monthly Mean Total Sunspot Number**,本文太阳黑子实验所使用的历史月度数据来源:https://www.sidc.be/SILSO/infosnmtot

[^ref13]: 相关论文:**Can Language Models Discover Scaling Laws**,其中讨论了从训练观测中发现 scaling law 的自动化方法:https://arxiv.org/abs/2507.21184

[^ref14]: **AdderBoard**,面向神经网络加法任务的公开参数效率榜单与实现仓库:https://github.com/anadim/AdderBoard

[^ref15]: Gushu Li、Yufei Ding 与 Yuan Xie,**“Tackling the Qubit Mapping Problem for NISQ-Era Quantum Devices”**,提出 SABRE 量子比特映射与路由方法:https://arxiv.org/abs/1809.02573

[^ref16]: **Botzone**,北京大学开发的在线程序对战与 AI 竞技平台;本文排名基于相应黑白棋赛道的公开参赛程序:https://botzone.org.cn/

[^ref17]: Anthropic,**Claude Code Goal Mode**,用于以目标驱动方式执行较长程编码与迭代任务的官方文档:https://code.claude.com/docs/en/goal

来源

腾讯混元 Research