先了解这件事
AI 综述
2026年7月1日,Modal Research与NYU Shanghai HeavyBall Research合作提出Multi-Token Residual Prediction(MRP)。据Modal官方工程博客介绍,该方法用一个3层小Transformer预测相邻去噪步之间的logit残差,而非直接预测下一步完整分布。在SGLang中,静态模式下MRP实现最高1.56×无损吞吐提升;动态模式下可挽回激进低阈值解码(τ=0.5)损失的最多+16个准确率点,在SDAR-1.7B/4B/8B上于GSM8K、MATH500、HumanEval、MBPP平均。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Modal 官方工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
7月1日
Modal 官方工程博客一手
Modal 与 NYU Shanghai 提出 MRP:让扩散语言模型解码提速 1.56 倍
Modal Research 与 NYU Shanghai HeavyBall Research 合作提出 Multi-Token Residual Prediction(MRP),用一个 3 层小 Transformer 预测相邻去噪步之间的 logit 残差,而非直接预测下一步完整分布。在 SGLang 中,静态模式下 MRP 实现最高 1.56× 无损吞吐提升;动态模式下可挽回激进低阈值解码(τ=0.5)损失的最多 +16 个准确率点,在 SDAR-1.7B/4B/8B 上于 GSM8K、MATH500、HumanEval、MBPP 平均。