Google DeepMind 发布多语种手语转文本模型 SL2T，并在 Pixel 11 的 Gboard 和 Live Transcribe 中上线手语听写功能，首批支持美国手语（ASL）转英文。该模型基于超过 50 种手语、逾 10 万小时数据训练，其中约四分之一为 ASL 数据，在 FLEURS-ASL（sd-test）上取得 70 BLEURT 的零样本成绩。为保护隐私，模型只接收 MediaPipe Holistic 在端侧提取的姿态关键点坐标，原始视频随即丢弃，并跳过 gloss 标注直接翻译为文本。
匹配字段摘要
Google Research 提出将多 token 预测（MTP）改造到已冻结的 Gemini Nano v3 上，在不改动主干权重的前提下加速端侧推理。该方法在主干最后几层附加轻量 Transformer 头，直接交叉注意力读取主干的 KV cache，省去独立草稿模型的预填充延迟，并比独立草稿模型节省最多 130MB 内存。在 Pixel 9 上，其 token 预测速度比同参数量独立草稿模型快 50% 以上，已随 Pixel 9 和 10 系列推送，用于 AI 通知摘要和校对等功能。
匹配字段摘要
Black Forest Labs 宣布 FLUX.2 [klein] 4B 将预装在 ASUS 新一代 ProArt 笔记本的 MuseTree 应用中，该机型搭载 RTX GPU，已在台北 Computex 2026 亮相。官方称目标是在 8GB 显存笔记本上、后台运行其他专业应用时实现 5 秒以内的图像生成，无需 API 或联网。Black Forest Labs 表示正扩展合作，为更多硬件和设备提供端侧优化的 FLUX 模型。
匹配字段摘要
Cohere 发布开源权重 Conformer 语音识别模型 Transcribe，可将 14 种语言的语音转为文本，并已开放下载。该模型在 Hugging Face Open ASR Leaderboard 的平均 WER 为 5.42%，可在本地或端侧运行，也可通过有限速的免费 API 和 Model Vault 使用。
匹配字段摘要
vLLM 现已支持部署 NVIDIA Nemotron 开放模型家族，可在数据中心和端侧硬件上运行智能体推理。Nemotron Nano 2 采用混合 Transformer–Mamba 架构并提供可配置的 thinking budget，开发者可调节精度、吞吐量和成本；其模型权重及超过 9T tokens 的训练数据已在 Hugging Face 提供。
匹配字段摘要
Liquid AI 发布首个视觉语言模型系列 LFM2-VL，包含 LFM2-VL-450M 和 LFM2-VL-1.6B 两个版本，面向低延迟与端侧部署，支持文本和可变分辨率图像输入。模型基于 LFM2 骨干，视觉塔采用 SigLIP2 NaFlex 编码器，原生分辨率最高 512×512，更大图像按 512×512 分块处理，官方称在 GPU 上推理速度最高可达同类模型的 2 倍。模型已兼容 Hugging Face transformers 和 TRL，训练使用约 1000 亿多模态 token。
匹配字段摘要
印度政府通过 IndiaAI Mission 选定 Sarvam 从零构建印度主权大语言模型，Sarvam 将获得专用算力资源，模型具备推理能力、面向语音设计并支持印度语言，可在印度本地基础设施上安全部署。Sarvam 计划开发三个模型变体：Sarvam-Large 面向高级推理与生成，Sarvam-Small 面向实时交互应用，Sarvam-Edge 面向端侧紧凑任务，并与 IIT Madras 的 AI4Bharat 合作。
匹配字段摘要
Cartesia 宣布完成由 Kleiner Perkins 领投的 6400 万美元 A 轮融资，并发布语音生成模型 Sonic 2.0。Sonic 2.0 基于新的状态空间模型架构，规模是前代两倍，全模型延迟 90ms、turbo 40ms，在 100 个保留声音的盲测中偏好度是次优提供商的 1.5 倍。同时推出 Voice changer 和 Infill 两个新端点，API 提供 99.9% 可用性并支持实时本地与端侧部署。
匹配字段摘要
Vapi 宣布集成 Cartesia 的 Sonic 2.0 语音生成模型，基于状态空间模型架构，turbo 模式下延迟低至 40ms，并提供 voice changer 与 infill 等新端点。该集成支持 99.9% 可用性、SOC-2 与 HIPAA 合规，以及本地和端侧部署，用户可在 Vapi 控制台的语音提供商下拉菜单中选择 Cartesia Sonic 2.0。
匹配字段摘要
Zyphra 展示了一套检索系统，可在推理时于标准 CPU 上把任意现成 LLM 扩展到 10 亿 token 上下文。该方法基于稀疏图检索，在需要超长上下文推理的 Hash-Hop 基准上取得 SoTA，并称比使用稠密嵌入的常见 RAG 系统更省算力与内存，也比长上下文 Transformer 更高效。团队表示这些初步结果适合端侧和算力受限场景，后续将测试其在更多长上下文任务上的通用性。
匹配字段摘要
IBM Granite 3.0 系列模型现已可通过 Ollama 运行，全部采用 Apache 2.0 许可。其中 Granite 2B 和 8B 为文本密集型 LLM，基于超 12 万亿 token 训练，8B Instruct 在 OpenLLM Leaderboard v1 和 v2 上媲美 Llama 3.1 8B Instruct；1B 和 3B 则是 IBM 首批 MoE 模型，基于超 10 万亿 token 训练，面向低延迟与端侧部署。
匹配字段摘要
Zyphra 发布《Zyphra Training Cookbook》，分享构建混合（SSM、Transformer、MoE）模型的工程经验，供其他技术团队参考。Zyphra 已构建 BlackMamba、Zamba-7B、Zamba2-2.7B、Zamba2-1.2B 等混合模型，以及 Zyda 数据集和 Tree Attention 工程优化。手册聚焦 1B-15B 端侧小模型，建议每 1/4 到 1/6 的序列混合层使用全注意力，其余采用 Mamba 等线性混合器以降低 FLOP 和内存开销。
匹配字段摘要
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL_1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL 1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
匹配字段标题
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL_1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
匹配字段标题
NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4_K_M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。
NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4 K M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。
匹配字段标题
NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4_K_M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。
匹配字段标题
Meta从更大的Muse Spark蒸馏出稠密30B模型Muse Glimmer,并以模拟应用中的合成智能体轨迹进行训练。该模型4-bit权重不到20 GB,可在单张RTX 5090上运行。据2026年10月22日报道,在多工具测试MCPAtlas上,Muse Glimmer得75.5,高于Gemma4-31B的54.2和Qwen3.6-27B的62.5;但在OSWorld-Verified上以65.9落后于Qwen3.6-27B的75.6。目前尚无后续发展事实。
匹配字段标题
2026年10月14日,中国信息通信研究院人工智能研究所联合中国人工智能产业发展联盟端侧智能组,与华为、中兴、vivo、海尔、阶跃星辰、面壁智能、大华股份等单位发布《端侧智能产业发展报告(2026年)》。报告将端侧智能定义为以本地为主、端云协同的融合智能形态,重点研究模型轻量化、异构硬件融合、基础软件、智能体、端云协同和安全可信等关键技术。报告还梳理个人智能、空间智能、移动智能、行业智能节点和具身智能等原生产品形态,以及消费娱乐、智慧家庭、智慧办公、智慧出行、智慧健康等应用场景。目前该报告已对外发布,尚无后续进展披露。
匹配字段标题
Meta从更大的Muse Spark蒸馏出稠密30B模型Muse Glimmer,并以模拟应用中的合成智能体轨迹进行训练。该模型4-bit权重不到20 GB,可在单张RTX 5090上运行。据2026年10月22日报道,在多工具测试MCPAtlas上,Muse Glimmer得75.5,高于Gemma4-31B的54.2和Qwen3.6-27B的62.5;但在OSWorld-Verified上以65.9落后于Qwen3.6-27B的75.6。目前尚无后续发展事实。
匹配字段标题
2026年10月14日,中国信息通信研究院人工智能研究所联合中国人工智能产业发展联盟端侧智能组,与华为、中兴、vivo、海尔、阶跃星辰、面壁智能、大华股份等单位发布《端侧智能产业发展报告(2026年)》。报告将端侧智能定义为以本地为主、端云协同的融合智能形态,重点研究模型轻量化、异构硬件融合、基础软件、智能体、端云协同和安全可信等关键技术。报告还梳理个人智能、空间智能、移动智能、行业智能节点和具身智能等原生产品形态,以及消费娱乐、智慧家庭、智慧办公、智慧出行、智慧健康等应用场景。目前该报告已对外发布,尚无后续进展披露。
匹配字段标题