先了解这件事
2026年10月21日,Eagle Corp发布开源灵活草稿模型EAGLE-4,用于加速大语言模型推理。据Testing Catalog报道,该模型的核心是同一个drafter会根据batch size、硬件和工作负载调整投机解码策略,并保持目标模型的输出分布;实测中Qwen3.8-27B搭配EAGLE-4 draft在4张NVIDIA B300上达到961.6 tokens/s。同日,Rohan Paul的报道称,EAGLE-4在27B模型单请求下实现863.8 tokens/s解码速度,为DFlash 2的1.28倍、DSpark的1.40倍,测试环境约快3倍且输出结果一致;该报道还提到其保留草稿-验证循环,改进集中在草稿侧,采用自适应草稿结构和更廉价的草稿LM head。
AI 根据公开报道生成
最新进展 · 正式报道
EAGLE-4 投机解码提速:27B 模型达 863.8 tokens/s事件进展
2 个已确认进展
- 来源:Testing Catalog
- 来源:Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月21日
Rohan Paul
EAGLE-4 投机解码提速:27B 模型达 863.8 tokens/s
EAGLE-4 在 27B 模型单请求下实现 863.8 tokens/s 解码速度,为 DFlash 2 的 1.28 倍、DSpark 的 1.40 倍,测试环境约快 3 倍且输出结果一致。它保留草稿-验证循环,改进集中在草稿侧,采用自适应草稿结构和更廉价的草稿 LM head。Eagle 官方称在 Qwen3.8-27B 上配合 TokenSpeed(BF16、4× NVIDIA B300、TP4、单请求、T=0)可达 961.6 tokens/s。
Testing Catalog
Eagle Corp 开源 EAGLE-4 灵活 drafter,加速 LLM 推理
Eagle Corp 发布开源灵活 drafter EAGLE-4,用于加速 LLM 推理。其核心是同一个 drafter 会根据 batch size、硬件和工作负载调整投机解码策略,并保持目标模型的输出分布。实测中 Qwen3.8-27B 搭配 EAGLE-4 draft 在 4 张 NVIDIA B300 上达到 961.6 tokens/s。
本事件热度走势
- 当前
- 5
- 区间峰值
- 19 10月21日 09:00
- 近 24 小时变化
- —
移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。