←事件详情

热点事件

Eagle Corp发布开源草稿模型EAGLE-4

2 篇正式报道2 条事件动态更新于 10月21日 08:47

先了解这件事

AI 综述

2026年10月21日,Eagle Corp发布开源灵活草稿模型EAGLE-4,用于加速大语言模型推理。据Testing Catalog报道,该模型的核心是同一个drafter会根据batch size、硬件和工作负载调整投机解码策略,并保持目标模型的输出分布;实测中Qwen3.8-27B搭配EAGLE-4 draft在4张NVIDIA B300上达到961.6 tokens/s。同日,Rohan Paul的报道称,EAGLE-4在27B模型单请求下实现863.8 tokens/s解码速度,为DFlash 2的1.28倍、DSpark的1.40倍,测试环境约快3倍且输出结果一致;该报道还提到其保留草稿-验证循环,改进集中在草稿侧,采用自适应草稿结构和更廉价的草稿LM head。

AI 根据公开报道生成

最新进展 · 正式报道

EAGLE-4 投机解码提速:27B 模型达 863.8 tokens/s

事件进展

2 个已确认进展

  1. Eagle Corp发布开源草稿模型EAGLE-4

    来源:Testing Catalog
  2. Rohan Paul称投机解码是当前最实用的推理优化方向之一

    来源:Rohan Paul

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月21日

  1. Rohan Paul

    EAGLE-4 投机解码提速:27B 模型达 863.8 tokens/s

    EAGLE-4 在 27B 模型单请求下实现 863.8 tokens/s 解码速度,为 DFlash 2 的 1.28 倍、DSpark 的 1.40 倍,测试环境约快 3 倍且输出结果一致。它保留草稿-验证循环,改进集中在草稿侧,采用自适应草稿结构和更廉价的草稿 LM head。Eagle 官方称在 Qwen3.8-27B 上配合 TokenSpeed(BF16、4× NVIDIA B300、TP4、单请求、T=0)可达 961.6 tokens/s。

  2. Testing Catalog

    Eagle Corp 开源 EAGLE-4 灵活 drafter,加速 LLM 推理

    Eagle Corp 发布开源灵活 drafter EAGLE-4,用于加速 LLM 推理。其核心是同一个 drafter 会根据 batch size、硬件和工作负载调整投机解码策略,并保持目标模型的输出分布。实测中 Qwen3.8-27B 搭配 EAGLE-4 draft 在 4 张 NVIDIA B300 上达到 961.6 tokens/s。

本事件热度走势

当前
5
区间峰值
19 10月21日 09:00
近 24 小时变化
—

移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。

关联事件

  1. 相关事件Meta发布开放权重模型Muse Spark Open
  2. 相关事件Meta 推出 Muse Wonder 与 Muse Wonder Full 模型
  3. 相关事件SGLang原生支持并驱动Beam生产API
  4. 相关事件Thinking Machines Lab发布Inkling多模态MoE模型