Liquid AI 发布 Liquid Nanos 系列任务专用端侧基础模型，参数规模 350M 至 2.6B，占用 100MB 至 2GB 内存，可在手机、笔记本和嵌入式设备上本地运行。首批实验性模型包括 LFM2-Extract、LFM2-350M-ENJP-MT、LFM2-1.2B-RAG、LFM2-1.2B-Tool、LFM2-350M-Math，以及社区开发的 Luth-LFM2 法语微调系列。官方称 LFM2-1.2B-Extract 在结构化抽取上优于 22.5 倍参数量的 Gemma 3 27B，LFM2-350M-ENJP-MT 的英日互译质量超过 10 倍参数量的通用模型。模型已在 LEAP 平台和 Hugging Face 上线，采用开放许可。
匹配字段标题、摘要
Liquid AI 发布 LFM2 系列端侧基础模型，开源 0.35B、0.7B、1.2B 三个稠密权重，可在 Liquid Playground、Hugging Face 和 OpenRouter 试用。官方称其采用乘法门控与短卷积的混合架构，共 16 个模块，CPU 上 decode 与 prefill 速度最高为 Qwen3 的 2 倍，训练效率较上一代提升 3 倍。模型在 10T token 上预训练，以 LFM1-7B 做知识蒸馏，上下文长度扩展至 32k，并支持 CPU、GPU 和 NPU 部署。
匹配字段标题、摘要
Cartesia 宣布端侧智能首个里程碑，发布开源库 Edge、1.3B 参数 SSM 语言模型 Rene，以及支持低延迟实时流式生成的 Sonic On-Device 私有测试版。Rene 采用 Mamba-2 混合架构，在多项基准上表现与同级 SOTA 小模型相当，Edge 已支持 Apple MLX 和量化推理。
匹配字段标题、摘要
Zyphra 发布 Zamba2-small，一个面向端侧应用的 2.7B 小语言模型，权重以 Apache 2.0 开源。该模型将 Zamba-7B 的 Mamba1 块替换为 Mamba2 块，并采用两个 ABAB 交错共享注意力块，对每个共享 MLP 块应用 LoRA projector。相比 Phi3-3.8B，其首 token 时间快 2 倍、内存开销降低 27%、生成延迟低 1.29 倍，并保持 3-4B 稠密 Transformer 的质量而只需 1-2B 的推理算力与内存。
匹配字段标题、摘要
扩散智能发布扩散语言模型Clover-35B-A3B-Preview，采用MoE架构，总参数350亿、每token激活约30亿，支持思考模式。在网页Agent评测WindTunnel的49个任务中，其中位执行时间1.52秒，低于Jev＋Mercury 2.5组合的3.21秒，成功率分别为98.6%和95.9%。代码评测上SWE-bench Verified得73.6、Terminal-Bench 2.1得51.7，团队称后续将推出多模态版本并推进端侧适配。
匹配字段摘要、正文
NVIDIA 发布 Nemotron-3.5-Bolt-E4B，可在 6GB 内存的设备上本地运行，面向手机等端侧设备。该模型基于 Gemma 4 训练，支持视觉，Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。
匹配字段摘要
Meta 发布 Muse Spark Open 的模型权重，这是一个 816B 参数的开源权重模型，激活参数 42B，上下文窗口为 100 万 token，面向编码、软件工程和多步推理。模型原生多模态并支持智能体工作流，可通过 Baseten、Fireworks AI、Groq、OpenRouter 等推理平台使用，权重可从 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 和 Microsoft Foundry Models 下载。Meta 称其针对两台搭载 M5 Ultra 芯片的 Apple Mac Studio 做了本地运行优化，并展示了用 Muse Code 修 bug、加功能和构建 iOS 应用等端侧工作流。
匹配字段摘要
英伟达推出开放多模态模型 Nemotron 3.5 Super VL，采用 MoE 架构，总参数 1200 亿、激活参数 120 亿，面向持续运行的多步骤智能体任务。英伟达称其在单张 GPU 上执行智能体任务的吞吐量最高可达同规模其他开放模型的 5 倍，并将推理、指令遵循、工具调用与文本、图像、文档、视频理解整合在同一模型中。同期发布的还有 Nemotron 3.5 Bolt 74B-A9B 24GB 端侧模型，通过原生 2 位量化压缩至 24GB，支持 llama.cpp、vLLM、Ollama 等；Bolt E4B 4GB 计划于 10 月 23 日推出。
匹配字段摘要、正文
面壁智能宣布 MiniCPM-V 4.7 已在 ModelScope 开源，这是一个 35B-A3B MoE 多模态模型，采用 Apache 2.0 许可，主打端侧运行。据 ModelScope 介绍，该模型在 iPhone 17 Pro Max 上以 13+ tokens/s 运行，是首个支持流畅无损端侧推理的开源 MoE，并提供 35B-A3B 与 1B 两种尺寸及 FP8、GPTQ、AWQ、BNB、GGUF 等变体，兼容 SGLang、vLLM、llama.cpp、Ollama 等工具，支持 iOS、Android 和 HarmonyOS。
匹配字段摘要
Apple 发布第三代 Apple Foundation Models（AFM），共五款模型，覆盖端侧与运行在 Private Cloud Compute 上的服务器模型。端侧包括 30 亿参数的 AFM 3 Core 和 200 亿参数、稀疏架构的 AFM 3 Core Advanced，后者每次仅激活 1 至 40 亿参数；服务器端包括 AFM 3 Cloud、图像模型 ADM 3 Cloud 和 AFM 3 Cloud Pro。评测显示 AFM 3 Core 在通用文本上获得 45.6% 的偏好率，AFM 3 Cloud 为 64.7%，AFM 3 Core Advanced 的语音合成 MOS 得分为 4.15。
匹配字段摘要
Conway Research 的端侧助手 Underdog 以 Apache 2.0 发布 Saluki 27B，这是 Qwen3.8-27B 的 2-bit 混合精度 GGUF，体积 7.89 GB，而 BF16 原模型需 54 GB，可在原生 llama.cpp 上运行并支持完整 GPU 卸载。在相同测试环境下，Saluki 在 Underdog Bench 的 120 项 BFCL v4 任务上得 88 分，原模型 84 分；并行工具调用 42 对 35；SWE-bench Verified 修复 30 个问题，原模型 33 个。代价是数学与多步推理下降 12 到 18 分，AIME 2025 为 79.2 对 96.7。
匹配字段摘要
Perplexity 开源 pplx-embed-v2-late，包含 9B 和 0.6B 两个多向量嵌入模型，覆盖文本与图像并共享同一嵌入空间。9B 用于索引多模态数据，0.6B 用于端侧查询，还支持无需 OCR 直接检索 PDF 页面。该模型在 MADQA 上得分 92.4%，在 BrowseComp+ 上得分 64%，权重已在 Hugging Face 发布。
匹配字段摘要
Google DeepMind 发布 EmbeddingGemma 2，一个 740M 参数、Apache 2.0 许可的端侧多模态嵌入模型，原生将文本、图像、音频和视频映射到统一嵌入空间。它在 MTEB Code 上从 68.76 提升到 78.68，支持 8K token 上下文窗口，可处理约 5.5 分钟音频、29 张图像或 58 帧视频，并可通过 MRL 将向量从 768 维截断至 128 维。模型权重已在 Hugging Face 和 Kaggle 开放下载，支持 LiteRT、MediaPipe、transformers.js、vLLM、Ollama 等部署方式。
匹配字段摘要
Google DeepMind 发布 EmbeddingGemma 2，这是面向端侧的多模态嵌入模型，可将文本、图像、音频和视频映射到统一嵌入空间。模型基于 Gemma 4 架构，采用 Apache 2.0 许可，参数量 7.4 亿，文本任务最低 2.7 亿参数，可选视觉（1.7 亿）和音频（3 亿）编码器。它支持 8K token 上下文窗口，是 EmbeddingGemma 1 的 4 倍，可处理约 5.5 分钟音频、29 张图片或 58 帧视频；借助 MRL 可将输出向量从 768 维截断至 512、256 或 128 维，最多减少 6 倍存储占用。在 MTEB Code 上得分从 68.76 提升至 78.68，模型权重已在 Hugging Face 和 Kaggle 开放下载。
匹配字段摘要
Google 发布 EmbeddingGemma 2，这是其首个原生多模态开源端侧嵌入模型，可在 0.5GB 内存下本地运行。该模型为 740M 参数、Apache 2.0 许可，由 270M 文本模型与 170M 视觉、300M 音频模块组合而成，将代码、图像、音频和视频统一到同一嵌入空间。Unsloth 提供了该模型的运行与训练支持，并附有 GGUF 与使用指南链接。
匹配字段摘要
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型，GPU 上吞吐最高提升 3.18 倍，端侧最高 2.87 倍，且不改变输出质量。草稿模型约 300M 参数，采用 5 层、block size 9 的简化注意力结构，已在 Hugging Face 提供 Safetensors 与 GGUF 权重，并开源集成到 llama.cpp 和 SGLang。在 BFCL 多工具函数调用场景中，LFM2.5-2.6B 的延迟平均降低 57%；LFM2.5-8B-A1B 受 llama.cpp Metal 后端 MoE 实现影响，端侧仅提升 18%。
匹配字段摘要
Google DeepMind 发布多语种手语转文本模型 SL2T，并在 Pixel 11 的 Gboard 和 Live Transcribe 中上线手语听写功能，首批支持美国手语（ASL）转英文。该模型基于超过 50 种手语、逾 10 万小时数据训练，其中约四分之一为 ASL 数据，在 FLEURS-ASL（sd-test）上取得 70 BLEURT 的零样本成绩。为保护隐私，模型只接收 MediaPipe Holistic 在端侧提取的姿态关键点坐标，原始视频随即丢弃，并跳过 gloss 标注直接翻译为文本。
匹配字段摘要
Cohere 发布开源权重 Conformer 语音识别模型 Transcribe，可将 14 种语言的语音转为文本，并已开放下载。该模型在 Hugging Face Open ASR Leaderboard 的平均 WER 为 5.42%，可在本地或端侧运行，也可通过有限速的免费 API 和 Model Vault 使用。
匹配字段摘要
Liquid AI 发布首个视觉语言模型系列 LFM2-VL，包含 LFM2-VL-450M 和 LFM2-VL-1.6B 两个版本，面向低延迟与端侧部署，支持文本和可变分辨率图像输入。模型基于 LFM2 骨干，视觉塔采用 SigLIP2 NaFlex 编码器，原生分辨率最高 512×512，更大图像按 512×512 分块处理，官方称在 GPU 上推理速度最高可达同类模型的 2 倍。模型已兼容 Hugging Face transformers 和 TRL，训练使用约 1000 亿多模态 token。
匹配字段摘要
Cartesia 宣布完成由 Kleiner Perkins 领投的 6400 万美元 A 轮融资，并发布语音生成模型 Sonic 2.0。Sonic 2.0 基于新的状态空间模型架构，规模是前代两倍，全模型延迟 90ms、turbo 40ms，在 100 个保留声音的盲测中偏好度是次优提供商的 1.5 倍。同时推出 Voice changer 和 Infill 两个新端点，API 提供 99.9% 可用性并支持实时本地与端侧部署。
匹配字段摘要