UC Santa Barbara 论文提出 TTME：用演化记忆替代测试时训练做数学发现
New UC Santa Barbara paper shows that LLM math discovery can skip test-time training, since an evolving memory scored better and used far less compute.
UC Santa Barbara 的论文提出 TTME，在数学发现任务中用演化记忆替代测试时训练，保持权重不变、把此前尝试中的规则和得分提升思路存入记忆来指导后续尝试。在 5 个数学任务、2 个框架和 3 个模型上，TTME 每次都超过报告中的测试时训练得分；在 Qwen3-8B 的 3 个任务上，其 FLOPs 减少 82.8% 至 84.6%，运行时间减少 47.7% 至 58.4%。作者建议，如果 LLM 搜索循环带有自动检查器，可以先尝试用经验记忆，而不是在搜索中途付出权重更新的代价。
正文 · AI 翻译
加州大学圣巴巴拉分校的一篇新论文表明，LLM 数学发现可以跳过测试时训练，因为演化记忆得分更高，且所用计算量远少。
也就是说，在数学发现任务上，演化记忆优于测试时训练，且计算量远少。
测试时训练让模型在搜索过程中通过对自身已评分的尝试运行强化学习来改进。这些权重更新既慢又昂贵，因此该方法难以扩展到更大的模型。
他们构建了 TTME，它保持权重固定，并将经验教训存储在记忆中。该记忆保存了此前尝试中的实用编码规则以及得分提升背后的思路，用以指导后续尝试。
在 5 个数学任务、2 个框架和 3 个模型上，TTME 每次都超过了报告中的测试时训练得分。在 3 个任务上使用 Qwen3-8B 时，其 FLOPs 比测试时训练少 82.8% 至 84.6%，运行时间少 47.7% 至 58.4%。
如果你的 LLM 搜索循环带有自动检查器，不妨先尝试用经验记忆，而不是在搜索中途付出权重更新的代价。