←事件详情

热点事件

Liquid AI发布LFM2.5-DSpark推测解码模型

1 篇正式报道1 条事件动态更新于 8月20日 08:00

先了解这件事

AI 综述

2026年8月21日,Liquid AI发布LFM2.5-DSpark推测解码草稿模型,面向LFM2.5-1.2B-Instruct、LFM2.5-2.6B和LFM2.5-8B-A1B三款模型。据Liquid AI模型与工程博客介绍,该草稿模型约300M参数,采用5层、block size 9的简化注意力结构,在GPU上吞吐最高提升3.18倍,端侧最高提升2.87倍,且不改变输出质量。权重已在Hugging Face提供Safetensors与GGUF格式,并开源集成到llama.cpp和SGLang。在BFCL多工具函数调用场景中,LFM2.5-2.6B延迟平均降低57%;LFM2.5-8B-A1B受llama.cpp Metal后端MoE实现影响,端侧仅提升18%。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍

事件进展

1 个已确认进展

  1. Liquid AI发布LFM2.5-DSpark

    来源:Liquid AI 模型与工程博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

8月20日

  1. Liquid AI 模型与工程博客一手

    Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍

    Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍,且不改变输出质量。草稿模型约 300M 参数,采用 5 层、block size 9 的简化注意力结构,已在 Hugging Face 提供 Safetensors 与 GGUF 权重,并开源集成到 llama.cpp 和 SGLang。在 BFCL 多工具函数调用场景中,LFM2.5-2.6B 的延迟平均降低 57%;LFM2.5-8B-A1B 受 llama.cpp Metal 后端 MoE 实现影响,端侧仅提升 18%。

关联事件

  1. 相关事件NVIDIA Nemotron 3.5 Lightning 上线 Ollama
  2. 相关事件Liquid AI发布决策模型d1并开源端侧系列
  3. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型
  4. 相关事件Meta发布开放权重模型Muse Spark Open