←事件详情

热点事件

Liquid AI推出LFM2-350M端侧函数调用方案

1 篇正式报道1 条事件动态更新于 7月24日 08:00

先了解这件事

AI 综述

2025年7月24日,Liquid AI 与 .txt 合作,介绍了一套面向边缘设备的函数调用方案:以 LFM2-350M 模型搭配 dotgrammar 语法约束库。据其介绍,LFM2-350M 无需量化即可占用不到 1 GB 内存,在常见边缘硬件上推理延迟低于 100ms;dotgrammar 通过上下文无关文法(CFG)保证输出语法始终合法,且不增加推理延迟。相比 JSON 格式,Pythonic 函数调用表示仅需 14 个 token,生成时间减少 2.6 倍。

AI 根据公开报道生成

最新进展 · 正式报道

Liquid AI 与 .txt 合作:LFM2-350M + dotgrammar 实现边缘端函数调用

事件进展

1 个已确认进展

  1. Liquid AI介绍LFM2-350M与dotgrammar函数调用方案

    来源:Liquid AI 模型与工程博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

7月24日

  1. Liquid AI 模型与工程博客一手

    Liquid AI 与 .txt 合作:LFM2-350M + dotgrammar 实现边缘端函数调用

    Liquid AI 与 .txt 合作,用 LFM2-350M 模型搭配 dotgrammar 语法约束库,在边缘设备上实现可靠的函数调用。LFM2-350M 无需量化即可占用不到 1 GB 内存,在常见边缘硬件上推理延迟低于 100ms;dotgrammar 通过上下文无关文法(CFG)保证输出语法始终合法,且不增加推理延迟。相比 JSON 格式,Pythonic 函数调用表示仅需 14 个 token,减少 2.6 倍生成时间。

关联事件

  1. 相关事件Liquid AI发布24B稀疏MoE模型并展示端侧Agen
  2. 相关事件Liquid AI用ExecuTorch部署LFM2实践
  3. 相关事件Ramp 在 Modal 上构建后台编码代理 Inspect
  4. 相关事件goose 发布 Neighborhood 扩展点餐教程