←新闻详情

Unite.AI更新于 10月28日 10:38

Liquid AI 发布 LFM3 系列六款 2B 级开源权重模型

Liquid AI Launches LFM3 Family of Six Open-Weight 2B-Class Models

AI 导读

Liquid AI 于 10 月 27 日发布 LFM3 系列,六款 2B 参数级开源权重模型均从同一个 LFM3-1.7B-Base 分支而来,覆盖文本、视觉、音频、全模态和决策模型。LFM3-1.7B 有 1.73B 参数、256K token 上下文、支持 16 种语言,采用 13 层门控短卷积、5 层滑动窗口注意力和 6 层全局注意力的 Tri-Hybrid 架构,以 LFM Open License v1.0 在 Hugging Face、Liquid AI Playground 和 API 提供。公司称 LFM3-1.7B 以少 35% 的参数超过 LFM2.5-2.6B,4-bit 精度下约占 1 GB 内存,但模型卡说明其不适合智能体编码或复杂多步推理。

推荐理由

AI 评分 73

六款 2B 级开源模型共用同一底座,覆盖文本、视觉、音频与决策,并给出端侧部署与微调路径。

主题

标签

正文 · AI 翻译

Liquid AI 于 2026 年 10 月 27 日发布 LFM3,这是新一代开放权重 Liquid Foundation Models,将文本、视觉、音频、全模态和决策模型统一到同一个共享骨干上。首个版本在 Hugging Face 博客的一篇文章中详细介绍,涵盖 2B 参数级别的六款模型。

每个 LFM3 模型都从同一个 LFM3-1.7B-Base 分支而来。LFM3-1.7B 接收文本并返回文本。LFM3-VL-2B 接受文本、图像和视频并返回文本,而 LFM3-Audio-2B 接受文本或音频并以文本或语音回应。Liquid AI 称 LFM3-Omni-2B 是其首个全模态模型,接受文本、图像、视频和音频并生成文本和语音。两款决策模型 d1-2B 和 d1-omni-2B 分别从视觉模型和全模态模型专门化而来,返回经过校准的答案而非生成的文本。

根据 LFM3-1.7B 模型卡,该文本模型有 1.73B 参数、256K token 上下文长度、128,000 token 词表,支持 16 种语言,并以 LFM Open License v1.0 发布。基础模型和后训练模型均为开放权重,可在 Hugging Face、Liquid AI Playground 和 Liquid AI API 上获取。

Liquid AI 的发布文章列出了首日发布合作伙伴:Ambarella、AMD、Arm、通过 OpenVINO 支持的 Intel、NVIDIA、OpenRouter、通过 Qualcomm AI Hub 和 GenieX 支持的 Qualcomm,以及 Vercel,并表示 Mercedes-Benz 和 Shopify 参与了发布前的测试与评估。

Tri-Hybrid 架构与训练

LFM3-1.7B-Base 有 24 层:13 层门控短卷积、5 层窗口为 256 token 的滑动窗口注意力层,以及 6 层全局注意力层。卷积的核大小为 7,高于 LFM2 中的 3。还有三项进一步的变化定义了该骨干:逐头门控注意力,其中 sigmoid 门控缩放每个注意力头的输出,可抑制损害量化的激活离群值;部分 RoPE,其中全局注意力层仅对每个头的最高频一半进行旋转,而滑动窗口层保留完整 RoPE;以及三明治归一化,对每个块的输入和输出进行归一化。

该设计来自 Liquid AI 的硬件在环架构搜索,为 LFM3 扩展到 14 种设备和后端组合,包括手机(Samsung Galaxy S26 Ultra 和 OnePlus 15)、Raspberry Pi 5、笔记本电脑(Apple M4 Max 和 AMD Ryzen AI)、Arm 和 x86 云 CPU、GPU,以及 Qualcomm Hexagon NPU。

LFM3-1.7B-Base 在 22T token 上预训练,其中最后 3.5T token 构成在精选数据上的中期训练阶段,智能体轨迹和工具调用的占比更高,同时将上下文窗口扩展到 256K token。后训练分四个阶段进行:在 1.75T token 上进行监督微调、混合强化学习、从六个专家强化学习教师进行多领域同策略蒸馏,以及在真实智能体框架内进行智能体强化学习。

Liquid AI 表示,新架构使 LFM3-1.7B 以少 35% 的参数超过其前代 LFM2.5-2.6B,并且按参数计算,它在短提示上与 LFM2-1.2B 相当,而在上下文为 8K token 时运行速度约快 25%。该公司称,在 4-bit 精度下,该文本模型占用约 1 GB 内存。

公司报告的性能与专门化

Liquid AI 报告称,LFM3-1.7B 在 WebArena-Verified 上得分为 38.42,而 LFM2.5-2.6B 为 3.02,在智能体任务上提升最大,不过模型卡指出,由于模型规模较小,不建议将其用于智能体编码或复杂多步推理。

Liquid AI 表示,LFM3-VL-2B 是首个接受视频输入的 LFM 视觉模型,并报告称,与 LFM2.5-VL-3B 相比,它将 62 项视觉基准的平均分从 57.6 提升到 71.4,同时使用 1.9B 参数而非 3.1B,与 Gemma 4 12B 相当,而后者规模是其六倍多。据该公司测量,一个新的自研 164M 参数视觉编码器所用计算量比此前 LFM VL 模型中的 SigLIP2 编码器少 3 倍,并以少 2.2 倍的 FLOPs 达到 Qwen3.5-2B 视觉编码器的准确率。

LFM3-Audio-2B 支持 18 种语言,Liquid AI 报告称其在 UTMOSv2 上的语音质量为 3.83,而 LFM2.5-Audio-1.5B 为 3.22;它采用完全因果的音频编码器,首 token 时间低至 50 ms,并使用 LiquidCodec 分词器,在 Apple M4 Max 的单个 CPU 线程上以约 87 倍实时速度生成语音。该公司表示,2.2B 参数的 LFM3-Omni-2B 在 Daily-Omni、WorldSense 和 AV-SpeakerBench 音视频理解基准上击败了包括 Qwen2.5-Omni-7B 在内的最高 10.7B 参数的模型。

决策模型在一次前向传播中回答一组问题,每个问题都带有校准概率,并添加类型化答案,可指向对象、从文档中读取数值、以范围估计数字,并选出所有适用选项。Liquid AI 表示,d1-2B 以少三分之一的参数取代 d1-3B,并在 ImajevBench 上得分为 75.5,而后者为 64.0。

每个 LFM3 模型都可以在单块 GPU 上进行微调,Liquid AI 发布了涵盖监督微调、DPO、GRPO 以及针对文本、视觉、音频和全模态模型的持续预训练的 notebook。在一个企业案例中,LFM3-VL-2B 在单块 A100 上使用约 3,000 张公开的风力涡轮机叶片照片进行了数小时的微调,将缺陷分类准确率提升至 67%,并将留出照片上的检测 F1 从 0.003 提升至 0.11。

Liquid AI 还将 LFM3-VL-2B 改编为三个机器人模型,分别用于编排、导航和操作。该公司报告称,这个操作视觉-语言-动作模型在 15 种具身形态上训练,在四个 LIBERO 套件上平均成功率达到 96.2%,在 RoboCasa-GR1 桌面任务上达到 45.7%,同时在搭载 TensorRT FP16 的 Jetson AGX Orin 上以不到 50 ms 的时间生成动作块。

在吞吐量方面,Liquid AI 表示,LFM3-1.7B 在单块 NVIDIA B300 上以 1,024 个并发请求每天可生成 36 亿个 token。这些模型原生支持 llama.cpp、MLX 和 vLLM,覆盖 Apple、AMD、NVIDIA 和 Qualcomm 硬件,并提供包括 BF16、FP8、NVFP4、GGUF、MLX 和 ONNX 在内的检查点变体。

来源

Unite.AI