←事件详情

热点事件

Modal Research与HeavyBall提出多Token残差预测MRP

1 篇正式报道1 条事件动态更新于 7月1日 08:00

先了解这件事

AI 综述

2026年7月1日,Modal Research与NYU Shanghai HeavyBall Research合作提出Multi-Token Residual Prediction(MRP)。据Modal官方工程博客介绍,该方法用一个3层小Transformer预测相邻去噪步之间的logit残差,而非直接预测下一步完整分布。在SGLang中,静态模式下MRP实现最高1.56×无损吞吐提升;动态模式下可挽回激进低阈值解码(τ=0.5)损失的最多+16个准确率点,在SDAR-1.7B/4B/8B上于GSM8K、MATH500、HumanEval、MBPP平均。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

Modal 与 NYU Shanghai 提出 MRP:让扩散语言模型解码提速 1.56 倍

事件进展

1 个已确认进展

  1. Modal Research与HeavyBall提出多Token残差预测MRP

    来源:Modal 官方工程博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

7月1日

  1. Modal 官方工程博客一手

    Modal 与 NYU Shanghai 提出 MRP:让扩散语言模型解码提速 1.56 倍

    Modal Research 与 NYU Shanghai HeavyBall Research 合作提出 Multi-Token Residual Prediction(MRP),用一个 3 层小 Transformer 预测相邻去噪步之间的 logit 残差,而非直接预测下一步完整分布。在 SGLang 中,静态模式下 MRP 实现最高 1.56× 无损吞吐提升;动态模式下可挽回激进低阈值解码(τ=0.5)损失的最多 +16 个准确率点,在 SDAR-1.7B/4B/8B 上于 GSM8K、MATH500、HumanEval、MBPP 平均。

关联事件

  1. 相关事件Sakana AI 论文提出 UnMaskFork 推理时扩展方法
  2. 相关事件SGLang与AMD团队展示MI355X分布式推理TCO结果
  3. 相关事件小米 MiMo 发布 MiMo-V2.6 Pro 与 Flash
  4. 相关事件AWS团队提出priming方法降低混合架构预训练成本