先了解这件事
AI 综述
2025年10月7日,Liquid AI发布其首个端侧MoE模型LFM2-8B-A1B的早期检查点。该模型总参数8.3B,每token激活1.5B,质量接近3-4B稠密模型,速度超过Qwen3-1.7B。架构上共18个门控短卷积块和6个GQA块,除前两层外每层含MoE块,每块32个专家、每token激活top-4。基础版预训练约12T token,语料约55%英文、25%多语言、20%代码,MMLU-Pro比LFM2-2.6B提升11.46分。模型已上线Hugging Face,兼容llama.cpp、ExecuTorch和vLLM。
AI 根据公开报道生成
最新进展 · 正式报道
Liquid AI 发布端侧 MoE 模型 LFM2-8B-A1B事件进展
1 个已确认进展
- 来源:Liquid AI 模型与工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月7日
Liquid AI 模型与工程博客一手精选
Liquid AI 发布端侧 MoE 模型 LFM2-8B-A1B
Liquid AI 发布首个端侧 MoE 模型 LFM2-8B-A1B 的早期 checkpoint,总参数 8.3B、每 token 激活 1.5B,质量接近 3-4B 稠密模型,速度超过 Qwen3-1.7B。模型共 18 个门控短卷积块和 6 个 GQA 块,除前两层外每层含 MoE 块,每块 32 个专家、每 token 激活 top-4。基础版预训练约 12T token,语料约 55% 英文、25% 多语言、20% 代码,MMLU-Pro 比 LFM2-2.6B 提升 11.46 分,现已上线 Hugging Face,兼容 llama.cpp、ExecuTorch 和 vLLM。