先了解这件事
AI 综述
2026年8月19日,Liquid AI 发布 LFM2.5 系列的 4-bit Q4_0 量化检查点,覆盖 230M、350M、1.2B-Instruct 和 2.6B 四个规模,采用量化感知蒸馏(QAD)技术。据其模型与工程博客介绍,这些检查点平均保留 BF16 约 97% 的性能,分别弥补了 70.6%、73.4%、65.5% 和 48.4% 的 BF16 到 Q4_0 质量差距;在 230M 和 350M 上质量匹配 Q5_K_M,并优于 Q4_K_M。相关 GGUF 文件已在 Hugging Face 发布,面向边缘部署场景。
AI 根据公开报道生成
最新进展 · 正式报道
Liquid AI 发布 LFM2.5 系列 QAD 量化模型：4-bit 边缘部署事件进展
1 个已确认进展
- 来源：Liquid AI 模型与工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
8月19日
Liquid AI 模型与工程博客一手
Liquid AI 发布 LFM2.5 系列 QAD 量化模型：4-bit 边缘部署
Liquid AI 发布 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 的 4-bit QAD 检查点，采用量化感知蒸馏（QAD）技术，平均保留 BF16 约 97% 的性能。QAD 分别弥补了 70.6%、73.4%、65.5% 和 48.4% 的 BF16 到 Q4_0 质量差距，在 230M 和 350M 上质量匹配 Q5_K_M，并优于 Q4_K_M。这些 GGUF 已在 Hugging Face 发布。