NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4_K_M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。
匹配字段标题
Meta从更大的Muse Spark蒸馏出稠密30B模型Muse Glimmer,并以模拟应用中的合成智能体轨迹进行训练。该模型4-bit权重不到20 GB,可在单张RTX 5090上运行。据2026年10月22日报道,在多工具测试MCPAtlas上,Muse Glimmer得75.5,高于Gemma4-31B的54.2和Qwen3.6-27B的62.5;但在OSWorld-Verified上以65.9落后于Qwen3.6-27B的75.6。目前尚无后续发展事实。
匹配字段标题
2026年10月14日,中国信息通信研究院人工智能研究所联合中国人工智能产业发展联盟端侧智能组,与华为、中兴、vivo、海尔、阶跃星辰、面壁智能、大华股份等单位发布《端侧智能产业发展报告(2026年)》。报告将端侧智能定义为以本地为主、端云协同的融合智能形态,重点研究模型轻量化、异构硬件融合、基础软件、智能体、端云协同和安全可信等关键技术。报告还梳理个人智能、空间智能、移动智能、行业智能节点和具身智能等原生产品形态,以及消费娱乐、智慧家庭、智慧办公、智慧出行、智慧健康等应用场景。目前该报告已对外发布,尚无后续进展披露。
匹配字段标题
OpenBMB(面壁智能)展示了 MiniCPM-V 4.7 1B 在普通 iPhone 上通过 OnDeviceLLM 本地运行。相关报道称,该模型不再限于 12GB 内存的 Pro Max 机型,可在设备端离线完成读取收据并计算总额、提取传单信息、理解截图等视觉任务,飞行模式下也能使用。目前该消息来自单一来源的同一发生证据,尚无后续独立发展。
匹配字段标题
Matt Turck 转发并评论称,开源语音AI领域出现一套小型端侧SOTA文本转语音模型套件。相关消息显示,Gradium 开源了 Phonon 端侧语音合成模型套件,全部模型参数均在 50m 以下,主打多语言自然度与准确度,并称提供迄今最广的推理支持;其中 Phonon-31m 以 Apache 2.0 许可开放。目前该消息由 Matt Turck 转发,尚无更多后续发展。
匹配字段标题
Matt Turck 转发并评论称,开源语音AI领域出现一套小型端侧SOTA文本转语音模型套件。相关消息显示,Gradium 开源了 Phonon 端侧语音合成模型套件,全部模型参数均在 50m 以下,主打多语言自然度与准确度,并称提供迄今最广的推理支持;其中 Phonon-31m 以 Apache 2.0 许可开放。目前该消息由 Matt Turck 转发,尚无更多后续发展。
匹配字段标题
Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。
匹配字段标题
Meta从更大的Muse Spark蒸馏出稠密30B模型Muse Glimmer,并以模拟应用中的合成智能体轨迹进行训练。该模型4-bit权重不到20 GB,可在单张RTX 5090上运行。据2026年10月22日报道,在多工具测试MCPAtlas上,Muse Glimmer得75.5,高于Gemma4-31B的54.2和Qwen3.6-27B的62.5;但在OSWorld-Verified上以65.9落后于Qwen3.6-27B的75.6。目前尚无后续发展事实。
匹配字段标题
2026年10月14日,中国信息通信研究院人工智能研究所联合中国人工智能产业发展联盟端侧智能组,与华为、中兴、vivo、海尔、阶跃星辰、面壁智能、大华股份等单位发布《端侧智能产业发展报告(2026年)》。报告将端侧智能定义为以本地为主、端云协同的融合智能形态,重点研究模型轻量化、异构硬件融合、基础软件、智能体、端云协同和安全可信等关键技术。报告还梳理个人智能、空间智能、移动智能、行业智能节点和具身智能等原生产品形态,以及消费娱乐、智慧家庭、智慧办公、智慧出行、智慧健康等应用场景。目前该报告已对外发布,尚无后续进展披露。
匹配字段标题
2026年10月13日,面壁智能宣布 MiniCPM-V 4.7 在 Apple Silicon 上获得 Day 0 全端侧推理支持。据当日报道,该模型(1B 与 35B-A3B)通过与 Nativ 合作在 Mac 上实现全本地推理,支持图像与视频理解;在 Apple Silicon 搭配 Nativ v0.4.x 实测中,1B 版 prefill 超 24K tokens/s、decode 315 tok/s,35B-A3B 版 prefill 超 4K tokens/s、decode 90 tok/s。10月13日至14日的后续报道称,面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,为 35B-A3B 的 MoE 模型,可在手机上以仅 3GB 内存运行,能识别现实路牌、按约束做规划、解析复杂文档并对视觉数据推理,同时提供轻量 1B 版本,覆盖 iOS 与 Android。
匹配字段标题
面壁智能 宣布推出 新一代端侧多模态大模型 MiniCPM-V 4.7
English translation is being prepared.
匹配字段标题
2026年10月14日,Google DeepMind与新加坡政府科技局(GovTech)合作交付一款端侧诈骗检测模型,该成果在新加坡国际网络周(SICW 2026)上展示。据Google DeepMind介绍,模型基于轻量级Gemma微调,可在普通智能手机上本地运行,采用两级流水线:先用轻量分类器筛查消息,再用微调后的Gemma分析更大范围对话上下文,检测到操纵性对话模式时在设备上实时提醒用户。训练在GovTech管理的GCP环境中完成,数据经匿名化处理,不含私人或可识别个人信息。目前尚无后续发展事实。
匹配字段标题
Google DeepMind and the Government Technology Agency of Singapore (GovTech) 交付 on-device scam detection model
English translation is being prepared.
匹配字段标题
2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。
匹配字段标题
OpenBMB(面壁智能)展示了 MiniCPM-V 4.7 1B 在普通 iPhone 上通过 OnDeviceLLM 本地运行。相关报道称,该模型不再限于 12GB 内存的 Pro Max 机型,可在设备端离线完成读取收据并计算总额、提取传单信息、理解截图等视觉任务,飞行模式下也能使用。目前该消息来自单一来源的同一发生证据,尚无后续独立发展。
匹配字段标题
Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。
匹配字段标题
面壁智能 宣称 MiniCPM-V 4.7让端侧AI更实用
English translation is being prepared.
匹配字段标题
2026年10月15日,韩国无晶圆厂半导体公司Iron Device宣布参与韩国产业通商资源部(MOTIR)牵头的政府项目,开发面向高自由度机械手的端侧AI计算模块。该模块为集成CPU、GPU和NPU的SoC,目标相比Nvidia Jetson Orin Nano平台缩小约59%占用面积、能效提升至3倍(TOPS/W),并将传感器采集到电机控制的延迟降至20毫秒以内。项目总预算约52.5亿韩元,从2026年8月持续到2029年底。Iron Device计划将成品模块独立销售给国内外人形及工业机器人客户。目前尚无进一步有证据的发展。
匹配字段标题
Iron Device 参与 基于端侧AI的高自由度机器人手及精密操控与装配控制技术研发项目
English translation is being prepared.
匹配字段标题
2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。
English translation is being prepared.
匹配字段标题