LMSYS 发布 SpecForge v0.3.0:分离式与同置式推测解码训练栈及新 SpecBundle 草稿模型
LMSYS 发布 SpecForge v0.3.0,将目标模型推理与草稿模型训练解耦为生产者与消费者两个资源池,在 8×H20 上以 3 台 SGLang 捕获服务器加 5 个训练 worker 的拓扑,端到端训练吞吐较此前同置实现提升约 10%。新运行时统一支持 EAGLE3、EAGLE3.1、P-EAGLE、DFlash、Domino 和 DSpark 多种推测解码方法,并新增训练与推理一致性校验流程。同时发布 SpecBundle 草稿模型集合,11 个 checkpoint 中有 9 个来自蚂蚁集团 AQ、RadixArk、招商银行、Domino 作者及社区成员,全部仅用开放数据训练。
匹配字段摘要






