←新闻详情

MarkTechPost更新于 10月28日 10:33

Liquid AI 发布 LFM3 系列 6 个开源 2B 级多模态模型

Liquid AI Releases LFM3: 6 Open-Weight 2B-Class Multimodal Models - MarkTechPost

AI 导读

Liquid AI 发布 LFM3 系列,6 个开源权重模型共享同一骨干,覆盖文本、视觉、音频、全模态和决策任务,均可在单张 GPU 上微调。LFM3-1.7B 为 1.73B 参数、256K 上下文,4-bit 下约 1 GB 内存,官方评测 29 项基准均分 49.37,高于 Qwen3.5-9B 的 47.24。权重已上线 Hugging Face,支持 GGUF、MLX、ONNX 等格式,免费商用门槛为年营收 1000 万美元。

推荐理由

AI 评分 66

原文列出六个模型共享骨干的规格、29 项基准均分与竞品对比,可据此判断 2B 级端侧多模态的实际位置。

主题

标签

正文 · AI 翻译

将 Google 添加为首选来源

Liquid AI 已发布 LFM3,这是其新一代 Liquid Foundation Models。Liquid AI LFM3 是一个由 6 个开放权重、2B 级模型组成的系列,构建于同一个共享骨干之上。该系列涵盖文本、视觉、音频、全模态和决策任务。每个模型都可以在单张 GPU 上微调。开发者随后可以将其部署在手机、笔记本电脑、私有服务器或云端。

TL;DR

规模:LFM3-1.7B 拥有 1.73B 参数和 256K 上下文窗口。LFM3-VL-2B 为 1.92B 和 128K。LFM3-Omni-2B 为 2.2B。

运行条件:4-bit 下约需 1 GB 内存,因此可在手机和笔记本电脑上运行。提供 GGUF、MLX、ONNX、FP8 和 NVFP4 检查点。

性能:LFM3-1.7B 在 29 项基准上平均得分 49.37,高于 Qwen3.5-9B 的 47.24(Liquid 自有评测)。

最佳:IFEval 96.66,AutomationBench 41.29,而 Qwen3.5-9B 为 15.10。

最差:Humanity’s Last Exam(无工具)7.17,RULER 128K 65.56,而 Qwen3.5-9B 为 87.11。

什么是 Liquid AI LFM3?

LFM3 是 Liquid AI 推出的多模态模型系列,从 1 个基础模型分支出 6 个模型。它们全部始于 LFM3-1.7B-Base。

TEXTTABLELAYOUT你的 PDF 解析器真的解析正确了吗?omni_parse_bench · 对文本、表格和布局评分 · 开源在 GitHub 上加星→赞助

本次发布包括:

LFM3-1.7B:面向本地智能体的文本模型,针对 Hermes Agent、Pi 和 OpenClaw 等框架进行了后训练。

LFM3-VL-2B:首个支持视频输入的 LFM 视觉模型,以 2 fps 采样。

LFM3-Audio-2B:支持 18 种语言的语音输入和输出,并支持工具调用。

LFM3-Omni-2B:将视觉、音频和语言集成于一个模型,以文本或语音作答。 d1-2B 和 d1-Omni-2B:决策模型,可在 1 次前向传播中回答多个问题。

三混合架构如何工作?

该骨干在 24 层中混合了 3 种算子。包括 13 个门控短卷积、5 个滑动窗口注意力层和 6 个全局注意力层。SWA 窗口为 256 个 token。卷积核从 3 增大到 7。

Liquid AI 团队通过其硬件在环架构搜索发现了这一组合。LFM2 在 1 部手机和 1 台笔记本电脑上调优。LFM3 则在 14 种设备和后端组合上调优。其中包括 Raspberry Pi 5 和 Qualcomm Hexagon NPU。

其他变化包括注意力上的逐头 sigmoid 门控、全局层上的部分 RoPE 以及 sandwich norm。基础模型使用了 22T token。最后 3.5T token 为智能体密集型中期训练,同时将上下文扩展到 256K。

后训练分 4 个阶段进行。首先是在 1.75T token 上进行 SFT,然后是混合 RL。接着,将 6 个专家教师蒸馏到 1 个模型中,随后进行智能体 RL。

LFM3-1.7B 在基准上表现如何?

Liquid AI 报告称,LFM3-1.7B 以少 35% 的参数击败 LFM2.5-2.6B。更重要的是智能体结果。在 WebArena-Verified 上得分为 38.42,而 Qwen3.5-9B 为 28.94。在 BFCL V4 上得分为 71.39,而后者为 62.83。

在知识和智能体编程方面,规模仍然占优。GPQA Diamond 为 63.37,而 Qwen3.5-9B 为 80.40。SWE-bench Verified 为 43.40,而后者为 51.20。搜索缩小了差距:Humanity’s Last Exam 在使用工具后从 7.17 升至 13.90。

LFM3-1.7B 与其竞品相比如何?

特性LFM3-1.7BMiniCPM5-2BQwen3.5-4BGemma 4 E4B

参数1.73B2.52B4B LM(Hub 上含视觉为 5B)4.5B 有效(含嵌入为 8B)

架构卷积 + SWA + 全局注意力标准 Llama transformer门控 DeltaNet + 门控注意力滑动窗口 + 全局注意力

上下文256K131,072262,144128K

输入模态文本文本文本、图像、视频文本、图像、音频

许可证LFM Open License v1.0(1000 万美元营收门槛)Apache 2.0Apache 2.0Apache 2.0

BFCL V4(Liquid 评测)71.3962.6555.1248.25

WebArena-Verified(Liquid 评测)38.429.1121.9217.06

SWE-bench Verified(Liquid 评测)43.4034.8041.200.50

GPQA Diamond(Liquid 评测)63.3765.1575.7657.88

GPQA Diamond(厂商报告)63.3770.276.258.6

RULER 128K(Liquid 评测)65.5637.9684.6318.82

Liquid 29 项基准平均49.3739.1939.2731.74

来源:Liquid LFM3 模型卡、MiniCPM5-2B 卡、Qwen3.5-4B 卡、Gemma 4 E4B 卡、LFM 许可证。

视觉、音频、全模态和决策模型呢?

LFM3-VL-2B 在 62 项视觉基准上平均得分 71.4。Gemma 4 12B 在同一套件上得分为 71.7。它在该比较中领先于视觉定位(77.3)和 GUI 理解(83.1)。视频(61.2)和智能体任务(42.5)仍落后于更大的 API 模型。

LFM3-Audio-2B 达到 6.2 的英语 WER 和 3.8 的 UTMOSv2 TTS 分数。LFM3-Omni-2B 在 Daily-Omni 上得分为 70.1,而 Qwen2.5-Omni-7B 为 61.3。

d1-2B 以少三分之一的参数取代 d1-3B。它将 Decision Bench 从 83.6 提升到 85.2。

开发者如何部署 LFM3?

权重已在 Hugging Face、Liquid AI Playground 和 Liquid API 上提供。文档列出了适用于文本和视觉模型的 GGUF、MLX 和 ONNX。运行时包括 llama.cpp、MLX、vLLM、SGLang、Ollama 和 Transformers。

在设备端,Liquid AI 在 32K 上下文下以 Q4_0 测量了 llama.cpp。完整的 128K 上下文需要 1.6 GB 的 KV 缓存。Qwen3.5-4B 需要 4.3 GB。在 1 块 NVIDIA B300 上使用 SGLang,LFM3-1.7B 在 1,024 个并发请求下每天产生 3.6B token。

Liquid AI 还展示了专业化能力。在 1 块 A100 上进行数小时 SFT 和 GRPO,将风力涡轮机缺陷分类提升到 67%。

关键要点

6 个开放权重 2B 级模型共享 1 个三混合骨干。

LFM3-1.7B 在 4-bit 下约 1 GB,具有 256K 上下文。

它在 BFCL V4、WebArena-Verified 和 AutomationBench 上击败 Qwen3.5-9B。

知识和智能体编程仍是明显弱点。

免费商用止于 1000 万美元年营收。

Asif Razzaq网站 | + 文章简介 ⮌

Asif RazzaqNace AI 发布面向 AI 智能体搜索的 Drex:在 BrowseComp-Plus 上以 12.6 次搜索调用达到 92.05%

$uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助

相关文章更多来自作者

Mirendil 发布其首个模型 Fern 0.1,具有 1000 万 token 上下文

OpenAI 发布 GPT-6.1 Terra,将 GPT-6.1 Sol 的智能体工作 API 价格减半

Nace AI 发布面向 AI 智能体搜索的 Drex:在 BrowseComp-Plus 上以 12.6 次搜索调用达到 92.05%

来源

MarkTechPost