Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B
Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B,面向消费级硬件上的工具调用,上下文窗口从 32,768 扩展到 128,000 tokens,预训练规模从 12T 提升到 38T tokens,词表从 65,536 扩至 128,000。该模型为纯推理模型,在 M5 Max 上解码 253 tokens/s、Ryzen AI Max+ 395 上 146 tokens/s,占用低于 6 GB,单张 H100 高并发下输出吞吐达 18.5K tokens/s。基础版与后训练版已在 Hugging Face 和 Playground 上线,首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。
匹配字段摘要、正文





