←新闻详情

fal更新于 10月21日 22:46

fal 与 Fireworks AI 提前上线 EAGLE-4 推理加速方案

We are excited to work together with @FireworksAI_HQ on the early-launch of EAGLE-4.

AI 导读

fal 宣布与 Fireworks AI 合作提前上线 EAGLE-4,并附技术博客说明其原理及对创作工作流的意义。被引用的 Eagle 原帖称 EAGLE-4 是其最快的版本,在 Qwen3.8-27B 上使用 TokenSpeed 达到 961.6 tokens/s(BF16、4× NVIDIA B300、TP4、单请求、T=0),并给出 GitHub 地址。

推荐理由

AI 评分 56

EAGLE-4 在 Qwen3.8-27B 上给出 961.6 tokens/s 的实测数字,可据此判断投机解码在推理加速上的进展。

主题

标签

引用

Eagle

@EagleCorp

EAGLE-4 is here. From EAGLE-1 to EAGLE-3, we’ve kept making inference faster. EAGLE-4 is our fastest yet. 961.6 tokens/s on @Alibaba_Qwen’s Qwen3.8-27B with TokenSpeed (BF16, 4× @NVIDIA B300, TP4, one request, T=0). Github: https://t.co/GwocZk1UTU https://t.co/GawgFNXKWj

查看原帖

正文

当前显示原文,中文全文译文尚未就绪。

We are excited to work together with @FireworksAI_HQ on the early-launch of EAGLE-4.

Check out our technical blog to understand how EAGLE-4 works and why it matters for creative workflows: https://t.co/YnYzQ89uCv

来源

fal