先了解这件事
AI 综述
2026年7月6日,LMSYS 在 SGLang 中集成 DSpark 投机解码,支持 Qwen3 等稠密模型和 DeepSeek-V4 等稀疏模型,相关实现见 sgl-project/sglang#30261。据 LMSYS Blog 介绍,DSpark 采用半自回归块草稿器加置信度头,按每个请求的置信度动态决定验证长度,避免验证不太可能被接受的 token。官方在 DeepSeek-V4-Flash、H200、DP4 上对比非投机与 MTP 基线,并给出 ragged verify 下的完整 CUDA graph、零开销调度和成本表分析等工程细节。目前该集成已随官方博客公开,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
SGLang 集成 DSpark 投机解码，支持 Qwen3 与 DeepSeek-V4事件进展
1 个已确认进展
- 来源：LMSYS Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
7月6日
LMSYS Blog一手精选
SGLang 集成 DSpark 投机解码，支持 Qwen3 与 DeepSeek-V4
LMSYS 在 SGLang 中集成 DSpark 投机解码，支持 Qwen3 等稠密模型和 DeepSeek-V4 等稀疏模型，相关实现见 sgl-project/sglang#30261。DSpark 用半自回归块草稿器加置信度头，按每个请求的置信度动态决定验证长度，避免验证不太可能被接受的 token。官方在 DeepSeek-V4-Flash、H200、DP4 上对比非投机与 MTP 基线，并给出 ragged verify 下的完整 CUDA graph、零开销调度和成本表分析等工程细节。