先了解这件事
2026年6月8日,小米MiMo与TileRT联合发布MiMo-V2.5-Pro-UltraSpeed,首次在1万亿参数模型上把解码速度突破1000 tokens/s,且仅用单台标准8卡通用GPU节点实现,不依赖晶圆级集成或片上SRAM芯片。该速度来自模型与系统协同设计:模型侧采用FP4量化与DFlash块级掩码并行推测解码,编码场景平均接受长度6.30;系统侧由TileRT定制编译器与kernel。官方已在Hugging Face开源MiMo-V2.5-Pro-FP4-DFlash权重。该API按申请制限时开放,试用窗口为6月9日至6月23日,价格为MiMo-V2.5-Pro的3倍、生成速度约10倍。
AI 根据公开报道生成
最新进展 · 正式报道
LMSYS 发布 DFlash 与 Spec V2 推测解码引擎事件进展
1 个已确认进展
- 来源：小米 MiMo 官网发布与博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
6月15日
LMSYS Blog一手
LMSYS 发布 DFlash 与 Spec V2 推测解码引擎
LMSYS 联合 Z Lab 和 Modal 发布 DFlash 推测解码模型与 SGLang 默认的 Spec V2 引擎，DFlash 用块扩散并行起草并通过 KV 注入提升接受长度。在 HumanEval 数据集并发为 1 时，Qwen 3.5 397B-A17B 的 DFlash 模型吞吐达到基线的 4.3 倍以上、MTP 的 1.5 倍。该模型已在 z-lab、modal-labs 和 lmsys 三个 Hugging Face 组织发布，可在 SGLang 中直接部署。
6月8日
小米 MiMo一手精选
小米发布 MiMo-V2.5-Pro-UltraSpeed，1T 模型单节点突破 1000 tokens/s
小米 MiMo 与 TileRT 联合发布 MiMo-V2.5-Pro-UltraSpeed，在 1T 参数 MoE 模型上首次突破 1000 tokens/s 输出速度，且只用单台标准 8-GPGPU 节点，不依赖 Cerebras 式晶圆级集成或 Groq 式片上 SRAM 芯片。该速度来自模型与系统协同设计：模型侧采用 FP4 量化和 DFlash 块掩码并行推测解码，系统侧由 TileRT 定制编译器与 kernel。官方表示将开源 FP4 + DFlash 权重，UltraSpeed 申请通道开放至 6 月 23 日（PDT），API 价格为 3 倍换取约 10 倍输出体验提升。
小米 MiMo 官网发布与博客一手精选
小米 MiMo-V2.5-Pro-UltraSpeed 发布，1T 模型解码突破 1000 tokens/s
小米与 TileRT 合作发布 MiMo-V2.5-Pro-UltraSpeed，首次在 1 万亿参数模型上把解码速度突破 1000 tokens/s，仅用单台标准 8 卡通用 GPU 节点实现。该 API 按申请制限时开放，价格为 MiMo-V2.5-Pro 的 3 倍、生成速度约 10 倍，试用窗口为 6 月 9 日至 6 月 23 日。团队对 MoE Experts 做 FP4 量化并采用 DFlash 块级掩码并行预测投机解码，编码场景平均接受长度 6.30，同时已在 Hugging Face 开源 MiMo-V2.5-Pro-FP4-DFlash 权重。