先了解这件事
AI 综述
Fireworks于2026年9月30日公布GLM 5.2数值对齐实验。实验显示,在GLM 5.2上运行同一强化学习任务时,训练器与rollout引擎的token概率计算方式不一致,会导致KL约0.013、每批约45%样本被丢弃,奖励在第20步左右从约0.9跌至0.2以下;数值对齐后KL为0、奖励全程稳定。同一材料还记录了Qwen3.5-MoE实验:专家输出加权求和的精度差异使图像token的k3达0.296,约为等价阈值的300倍,仅替换MoE模块为Hugging Face参考实现后k3归零。目前该实验由Fireworks作为第一方来源发布,尚无后续独立进展。
AI 根据公开报道生成
最新进展 · 正式报道
强化学习：为何数值对齐与 MoE 路由如此重要事件进展
1 个已确认进展
- 来源：Fireworks AI
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
9月30日
Fireworks AI一手
强化学习：为何数值对齐与 MoE 路由如此重要
Fireworks 实验显示，在 GLM 5.2 上运行同一 RL 任务时，训练器与 rollout 引擎的 token 概率计算方式不一致会导致 KL 约 0.013、每批约 45% 样本被丢弃，奖励在第 20 步左右从约 0.9 跌至 0.2 以下；数值对齐后 KL 为 0、奖励全程稳定。Qwen3.5-MoE 实验中，专家输出加权求和的精度差异使图像 token 的 k3 达 0.296，约为等价阈值的 300 倍，仅替换 MoE 模块为 Hugging Face 参考实现后 k3 归零。