先了解这件事
2026年8月21日,Liquid AI发布LFM2.5-DSpark推测解码草稿模型,面向LFM2.5-1.2B-Instruct、LFM2.5-2.6B和LFM2.5-8B-A1B三款模型。据Liquid AI模型与工程博客介绍,该草稿模型约300M参数,采用5层、block size 9的简化注意力结构,在GPU上吞吐最高提升3.18倍,端侧最高提升2.87倍,且不改变输出质量。权重已在Hugging Face提供Safetensors与GGUF格式,并开源集成到llama.cpp和SGLang。在BFCL多工具函数调用场景中,LFM2.5-2.6B延迟平均降低57%;LFM2.5-8B-A1B受llama.cpp Metal后端MoE实现影响,端侧仅提升18%。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍事件进展
1 个已确认进展
- 来源:Liquid AI 模型与工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
8月20日
Liquid AI 模型与工程博客一手
Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍,且不改变输出质量。草稿模型约 300M 参数,采用 5 层、block size 9 的简化注意力结构,已在 Hugging Face 提供 Safetensors 与 GGUF 权重,并开源集成到 llama.cpp 和 SGLang。在 BFCL 多工具函数调用场景中,LFM2.5-2.6B 的延迟平均降低 57%;LFM2.5-8B-A1B 受 llama.cpp Metal 后端 MoE 实现影响,端侧仅提升 18%。