先了解这件事
蚂蚁 inclusionAI 在 GitHub 开源 ASpec,一个面向投机解码 Draft 模型的高吞吐训练框架。该框架基于 TorchSpec 代码库,优化 Draft 前向、反向与优化器执行,并将训练与 Target 特征生成重叠。在 Qwen3-8B/4K 场景下,单 GPU Draft-only 达 15,256.44 input tokens/s,为 TorchSpec 的 1.96 倍、SpecForge 的 2.07 倍、AngelSpec 的 2.48 倍;8 GPU 在线稳态窗口为 77,721.37 tokens/s,对应 2.28×、2.50×、2.68×。框架支持 Qwen3-8B、Qwen3.5-9B Native MTP、Qwen3.8-27B 长上下文及 Ling tiny/flash 3.0/3.1 等 recipe。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：蚂蚁 inclusionAI：GitHub 新仓库
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
11月6日
蚂蚁 inclusionAI：GitHub 新仓库一手
蚂蚁 inclusionAI 开源 ASpec：面向投机解码 Draft 模型的高吞吐训练框架
蚂蚁 inclusionAI 开源 ASpec，一个用于投机解码 Draft 模型的高吞吐训练框架，基于 TorchSpec 代码库优化 Draft 前向、反向与优化器执行，并将训练与 Target 特征生成重叠。在 Qwen3-8B/4K 场景下，单 GPU Draft-only 达 15,256.44 input tokens/s，为 TorchSpec 的 1.96 倍、SpecForge 的 2.07 倍、AngelSpec 的 2.48 倍；8 GPU 在线稳态窗口为 77,721.37 tokens/s，对应 2.28×、2.50×、2.68×。框架支持 Qwen3-8B、Qwen3.5-9B Native MTP、Qwen3.8-27B 长上下文及 Ling tiny/flash 3.0/3.1 等 recipe。