先了解这件事
AI 综述
Liquid AI 为开发 LFM2 系列开放权重模型,选择 PyTorch ExecuTorch 作为端侧部署方案,原因是其支持混合缓存机制,可将导出图一键打包为含权重、元数据与执行图的独立 bundle。据其介绍,LFM2 部分自定义算子约需 2-3 周图改写,2025 年 7 月成功在设备端运行并发布。在 AMD Ryzen AI 9 HX 370 与三星 S24 上,350M 至 4B 参数的 LFM2 均实现更低 prefill/decode 延迟、更小内存占用与更小模型文件。2025 年 10 月 22 日,Liquid AI 通过官方博客分享了这一工程实践与推理基准。
AI 根据公开报道生成
最新进展 · 正式报道
Liquid AI 如何用 ExecuTorch 实现高效灵活的设备端智能事件进展
1 个已确认进展
- 来源：Liquid AI 模型与工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月22日
Liquid AI 模型与工程博客一手
Liquid AI 如何用 ExecuTorch 实现高效灵活的设备端智能
Liquid AI 为开发 LFM2 系列开放权重模型选择 PyTorch ExecuTorch，因其支持混合缓存机制，可将导出图一键打包为含权重、元数据与执行图的独立 bundle。LFM2 部分自定义算子约需 2-3 周图改写，2025 年 7 月成功在设备端运行并发布。在 AMD Ryzen AI 9 HX 370 与三星 S24 上，350M 至 4B 参数的 LFM2 均实现更低 prefill/decode 延迟、更小内存占用与更小模型文件。