Liquid AI 发布 LFM2.5-2.6B，一款完全在设备端运行的智能体模型，基础版与后训练版已在 Hugging Face 上线。该模型为 2.6B 参数、预训练约 34T tokens，词表扩展至 128K 并包含 128K 上下文扩展阶段，后训练经 SFT、教师专精、MOPD 蒸馏与 Agentic RL 四阶段。推理方面在 M5 Max 上解码 220 tokens/s、Ryzen AI Max+ 395 上 113 tokens/s，占用低于 2.5 GB，手机端保持 30 tokens/s，并首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。
匹配字段标题
LG AI Research 与 LG U+ 将 EXAONE 4.0 1.2B 轻量模型部署到 AI 助手 ixi-O 端侧，把原本跑在云端大语言模型上的 AI 通话分析迁移到设备本地，并让 AI 代接电话从固定话术升级为理解来电意图的对话式应答。该模型支持最长 65K 上下文，可处理 STT 通话脚本，并支持韩语、英语、西班牙语等多语言输入。
匹配字段标题
Liquid AI 发布目前最小的模型 LFM2.5-230M，基于 LFM2 架构，预训练 19T tokens 并含 32K 上下文扩展阶段，Base 与后训练版本已在 Hugging Face 开放。官方称其在 Galaxy S25 Ultra 上解码速度 213 tok/s、Raspberry Pi 5 上 42 tok/s，并在 GPQA Diamond、MMLU-Pro、IFEval、BFCLv3/v4 等十项基准上与参数量两倍以上的模型竞争。该模型已适配 llama.cpp、MLX、vLLM、SGLang 和 ONNX，官方同时提示不适合高级数学、代码生成和创意写作等重推理任务。
匹配字段标题
Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B，面向消费级硬件上的工具调用，上下文窗口从 32,768 扩展到 128,000 tokens，预训练规模从 12T 提升到 38T tokens，词表从 65,536 扩至 128,000。该模型为纯推理模型，在 M5 Max 上解码 253 tokens/s、Ryzen AI Max+ 395 上 146 tokens/s，占用低于 6 GB，单张 H100 高并发下输出吞吐达 18.5K tokens/s。基础版与后训练版已在 Hugging Face 和 Playground 上线，首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。
匹配字段标题
Liquid AI 发布 LFM2.5-VL-450M，这是 LFM2-VL-450M 的改进版，新增目标检测与边界框定位、函数调用支持，并提升指令遵循能力。预训练规模从 10T 扩到 28T tokens，后训练用偏好优化和强化学习改进 grounding 与可靠性，支持八种语言提示。模型已在 Hugging Face、LEAP 和 Playground 上线，在 Jetson Orin 上处理 512×512 图像耗时低于 250ms。
匹配字段标题
Sarvam AI 发布 Sarvam Edge，面向设备端推理推出语音识别、语音合成和多语言翻译模型。语音识别为 74M 参数的统一多语言模型，支持 10 种印度语言，端侧体积约 294MB（FP16），在 Snapdragon 8 Gen 3 上首 token 延迟低于 300 毫秒；语音合成 24M 参数、约 60MB，支持 10 种语言和 8 个多语言音色，首音频延迟 260 毫秒；翻译模型约 150M 参数、约 334MB，覆盖 11 种语言共 110 个语言对，首 token 约 200 毫秒。官方称该系列与全球设备厂商合作开发，推理完全在本地完成，无按次云端成本。
匹配字段标题
Liquid AI 发布 LFM2.5-1.2B-Thinking，一款完全在设备端运行的推理模型，在手机上内存占用低于 900 MB，已在 Hugging Face、LEAP 和 Playground 上线。该模型为 1.2B 参数，相比 LFM2.5-1.2B-Instruct 在 MATH-500 上从 63 提升到 88、Multi-IF 从 61 提升到 69、BFCLv3 从 49 提升到 57，并在多数推理基准上匹配或超过参数量多 40% 的 Qwen3-1.7B。训练上采用课程式 RL 与模型合并，通过偏好对齐和 n-gram 重复惩罚把 doom loop 比例从 15.74% 降到 0.36%，并获 Qualcomm、Ollama、FastFlowLM、Cactus Compute 等新发布伙伴支持。
匹配字段标题
Liquid AI 与 AMD 在 CES 上展示 LFM2-2.6B-Transcript，一款完全在 AMD Ryzen AI 平台本地运行的会议摘要模型。该模型可在 2.7GB 内存中处理 10K token（约 60 分钟会议记录），16 秒生成 1K token 摘要，基准测试中短文本表现超过 gpt-oss-20b 并接近 Qwen3-30B 和 Claude Sonnet，长文本仍优于 gpt-oss-20b。用户可通过 Liquid AI Cookbook 中的命令行工具直接体验，无需 API key 或云服务。
匹配字段标题
Liquid AI 发布 LFM2.5-1.2B 模型家族，预训练规模从 10T 扩展到 28T token，并扩大强化学习后训练流程，包含 Base、Instruct、日语、视觉语言和音频语言模型。其中 LFM2.5-Audio-1.5B 采用新的 LFM 音频解分词器，在移动 CPU 上比 LFM2 的 Mimi 解分词器快 8 倍，并以 INT4 量化感知训练。所有模型均为开放权重，已在 Hugging Face 和 LEAP 上线，并获 llama.cpp、MLX、vLLM、ONNX 首日支持，AMD 与 Nexa AI 提供 NPU 优化版本。
匹配字段标题
Liquid AI 发布首个端侧 MoE 模型 LFM2-8B-A1B 的早期 checkpoint，总参数 8.3B、每 token 激活 1.5B，质量接近 3-4B 稠密模型，速度超过 Qwen3-1.7B。模型共 18 个门控短卷积块和 6 个 GQA 块，除前两层外每层含 MoE 块，每块 32 个专家、每 token 激活 top-4。基础版预训练约 12T token，语料约 55% 英文、25% 多语言、20% 代码，MMLU-Pro 比 LFM2-2.6B 提升 11.46 分，现已上线 Hugging Face，兼容 llama.cpp、ExecuTorch 和 vLLM。
匹配字段标题
Liquid AI 发布 Liquid Nanos 系列任务专用端侧基础模型，参数规模 350M 至 2.6B，占用 100MB 至 2GB 内存，可在手机、笔记本和嵌入式设备上本地运行。首批实验性模型包括 LFM2-Extract、LFM2-350M-ENJP-MT、LFM2-1.2B-RAG、LFM2-1.2B-Tool、LFM2-350M-Math，以及社区开发的 Luth-LFM2 法语微调系列。官方称 LFM2-1.2B-Extract 在结构化抽取上优于 22.5 倍参数量的 Gemma 3 27B，LFM2-350M-ENJP-MT 的英日互译质量超过 10 倍参数量的通用模型。模型已在 LEAP 平台和 Hugging Face 上线，采用开放许可。
匹配字段标题
Liquid AI 发布面向端侧 AI 的开发者平台 LEAP，以及用于在手机上体验小语言模型的 iOS 应用 Liquid Apollo。LEAP 提供 Android 和 iOS 跨平台 Edge SDK，开发者用几行代码即可在移动应用中部署小语言模型，模型体积最小 300MB，可在 4GB 及以上内存设备运行，并支持 LFM2 等模型。Liquid Apollo 已原生支持全部 LEAP 模型，可在完全本地、保护隐私的界面中体验包括新一代 LFM2 在内的模型库。
匹配字段标题
Liquid AI 发布 LFM2 系列端侧基础模型，开源 0.35B、0.7B、1.2B 三个稠密权重，可在 Liquid Playground、Hugging Face 和 OpenRouter 试用。官方称其采用乘法门控与短卷积的混合架构，共 16 个模块，CPU 上 decode 与 prefill 速度最高为 Qwen3 的 2 倍，训练效率较上一代提升 3 倍。模型在 10T token 上预训练，以 LFM1-7B 做知识蒸馏，上下文长度扩展至 32k，并支持 CPU、GPU 和 NPU 部署。
匹配字段标题
Meta 的 Llama 3.2 现已可通过 Ollama 运行，其中 1B 和 3B 为纯文本模型，针对手机或边缘设备本地运行做了优化，可用于构建高度个性化的端侧智能体，例如总结 WhatsApp 最近十条消息或下月日程。Ollama 表示处理在本地完成，数据不发送给第三方或云服务，提示与响应接近即时。11B 和 90B 视觉模型即将推出，支持图表等文档级理解和图像描述。
匹配字段标题
Cartesia 宣布端侧智能首个里程碑，发布开源库 Edge、1.3B 参数 SSM 语言模型 Rene，以及支持低延迟实时流式生成的 Sonic On-Device 私有测试版。Rene 采用 Mamba-2 混合架构，在多项基准上表现与同级 SOTA 小模型相当，Edge 已支持 Apple MLX 和量化推理。
匹配字段标题
Zyphra 发布 Zamba2-small，一个面向端侧应用的 2.7B 小语言模型，权重以 Apache 2.0 开源。该模型将 Zamba-7B 的 Mamba1 块替换为 Mamba2 块，并采用两个 ABAB 交错共享注意力块，对每个共享 MLP 块应用 LoRA projector。相比 Phi3-3.8B，其首 token 时间快 2 倍、内存开销降低 27%、生成延迟低 1.29 倍，并保持 3-4B 稠密 Transformer 的质量而只需 1-2B 的推理算力与内存。
匹配字段标题
复旦大学未来信息创新学院与极目天舒团队联合研发的机器人“旦宝”在第二十六届中国国际工业博览会上展示，无预置地图、不靠遥控，仅凭视觉自主找路并避让行人。其视觉空间智能导航参数量约1.2亿，可在20瓦以内功耗下支持最多8路视觉输入端侧实时运行，团队正将其适配跑腿取送、巡检、农业、清洁等多类机器人。
匹配字段标题
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL_1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL 1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
匹配字段标题
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL_1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
匹配字段标题
NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4_K_M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。
NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4 K M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。
匹配字段标题