←新闻详情

面壁智能 OpenBMB更新于 10月26日 22:27

面壁智能与清华发布 PostTrainBench:智能体执行强但策略锁定

An agent that can run a full post-training pipeline almost never reconsiders its initial strategy.

AI 导读

面壁智能与清华团队基于 PostTrainBench 分析 1338 条完整训练轨迹,覆盖 7 个基准、4 个基座模型和 Claude Code、Codex CLI、OpenCode,在单张 H100 上运行 10 小时。结果显示智能体平均分随经验从 33.34 提升到 48.55,但 3557 组相邻实验中仅 2.1% 真正切换策略,执行层建议全部被采纳而策略层建议无一被采纳。同一检查点下,一句人类引导切换策略即可超过自主继续,GSM8K 提升 17.44pp、HumanEval 提升 10.80pp、AIME 2025 提升 6.67pp。

推荐理由

AI 评分 64

基于 1338 条完整训练轨迹,把智能体能力拆成执行与策略两层,并给出人类中途介入的量化收益。

主题

标签

正文 · AI 翻译

一个能够运行完整后训练流程的智能体,几乎从不会重新考虑其初始策略。 我们分析了来自 PostTrainBench 的 1,338 条完整训练轨迹——7 个基准、4 个基座模型、Claude Code / Codex CLI / OpenCode,在单张 H100 上运行 10 小时——并将能力拆分为执行与策略两个层面。

1️⃣ 合格的执行者,锁定的策略。智能体在每个基准上都优于基座模型;随着经验积累,平均分从 33.34 提升到 48.55。所有执行层面的建议都被采纳,但没有任何策略层面的建议(例如切换到 RL、加入 SFT 预热)被采纳。在 3,557 组相邻实验对中,只有 2.1% 真正切换了策略。默认行为跟随智能体而非任务:Claude Code 有 71.9% 的情况从全参数 SFT 开始;Codex CLI 有 89.5% 的情况从 PEFT/LoRA 开始。

2️⃣ 经验与算力都无法解锁它。额外的经验和记忆提升了执行能力,但从未突破锁定的策略;更多的推理 token 换来的是更精细的执行,而非更好的方向——在 AIME 2025 上,多出约 1400 万 token 仅多解出 1 道题。

3️⃣ 运行中途的人类引导处处奏效。在同一检查点、相同剩余预算下,一句切换到替代策略的引导就能胜过自主继续:GSM8K +17.44pp,HumanEval +10.80pp,AIME 2025 +6.67pp。

缺失的能力不是执行新策略——而是在轨迹中途自发重启策略决策的触发机制。

📄 论文:https://t.co/yuI2gosUXC #AIAgent #PostTraining #LLM #RLHF #GRPO #PPO #RSI #AgentBenchmark #PostTrainBench #THUNLP

来源

面壁智能 OpenBMB