Gradium 开源 Phonon 端侧 TTS 模型套件，参数均在 50m 以下
Gradium 开源 Phonon 端侧语音合成模型套件，全部模型参数在 50m 以下，主打多语言自然度与准确度，并称提供迄今最广的推理支持。其中 Phonon-31m 以 Apache 2.0 许可开放。Matt Turck 转发了这一消息。
匹配字段标题、摘要、正文
←搜索结果
搜索“端侧”
Nvidia 发布 Nemotron 3.5 系列模型，覆盖服务器到端侧智能体
Nvidia 发布 Nemotron 3.5 系列模型，包括开源的 120B 参数 Super VL、面向本地运行的 Bolt 74B-A9B 24GB，以及本月晚些时候推出的 Bolt E4B 4GB。Super VL 与 Nemotron Coalition 合作构建，支持指令跟随、工具调用、多步业务流程和视觉理解，Nvidia 称其能力接近自家最大推理模型而体积仅为五分之一，输出速度约为同类模型的近五倍。Bolt 74B-A9B 采用混合 MoE 架构，每次激活 74B 中的 9B 参数，并用 2-bit 量化装入 24GB 内存，可在企业工作站或 PC GPU 上本地完成写代码和调试等任务；Bolt E4B 4GB 面向 GeForce RTX、Jetson 和 RTX/GTX Spark 等边缘设备。Nvidia 同时在 Hugging Face 开放智能体工具调用、金融、指令跟随、长上下文、安全、公平性和视觉语言理解等数据集。
匹配字段标题
Nvidia 发布 Nemotron 3.5 Super VL 开源多模态模型，并推出两款 Bolt 端侧模型
Nvidia 发布 Nemotron 3.5 Super VL，这是一个 1200 亿参数的开源多模态模型，面向持续在后台运行的企业智能体，处理文本、图像、文档和视频。该模型采用 MoE 架构，每个 token 仅激活 120 亿参数，由 Nvidia 与包含 Mistral AI、Thinking Machines Lab、Perplexity 和 Black Forest Labs 的 Nemotron Coalition 共同开发。同时推出两款面向本地硬件的模型：Nemotron 3.5 Bolt 74B-A9B 24GB 可在本地机器运行智能体任务，更小的 Bolt E4B 4GB 面向语音助手，将于本月晚些时候发布。Nvidia 称 Super VL 从 Nemotron 3 Ultra 蒸馏而来，在智能体指令遵循、工具调用、多步业务流程和图像分析任务上以约五分之一参数达到 Ultra 的准确率，在 Hermes 和 LangChain 的智能体测试中得分高于 Ultra，并在 SWE-bench 和 Terminal-Bench 上超过前代 Nemotron 3 Super。权重以 base、post-trained 和 4-bit 压缩三个版本发布，同时公开数据集、训练配方和强化学习环境，预训练与持续预训练使用超过 25 万亿 token。
匹配字段标题
NVIDIA 扩展 Nemotron 家族，发布 120B 的 Super VL 与两款端侧 Bolt 模型
NVIDIA 发布 Nemotron 3.5 Super VL，这是一个 120B 参数的开放模型，面向常驻智能体任务，官方称其在同类开放模型中吞吐最高，比次优模型快 5 倍，准确率接近 NVIDIA 最大推理模型而参数量约为其五分之一。同时推出两款端侧模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB，前者用原生 2-bit 量化塞进 24GB 显存，可在 RTX/DGX Spark 本地运行智能体任务，后者面向 GeForce RTX、Jetson 上的语音与对话智能体。Super VL 与 Bolt 74B-A9B 已上线 Hugging Face，Bolt E4B 将于 10 月 23 日发布；Super VL 还提供开放权重、开放数据集和训练配方，支持企业用自有数据后训练。
匹配字段标题、摘要
OpenBMB 发布 MiniCPM-V 4.7 端侧多模态模型
OpenBMB 发布 MiniCPM-V 4.7，这是可在手机本地运行的开源 MoE 多模态模型，35B-A3B 参数，在 iPhone 17 Pro Max 上仅占 3 GB 内存，解码速度 13+ tokens/s。其 LES（前瞻专家调度）通过跨层路由预测提前加载专家权重，配合量化与存储布局优化，在真实设备上取得约 5 倍加速。面向开发者的 SRFT（自回放微调）在微调窄任务前用模型自生成标签做回放，以 Task:Replay = 4:1 混入任务数据，跨四个模型验证遗忘降低 80%–99%，任务性能基本无损。
匹配字段标题
LiquidAI 发布端侧推理智能体模型 LFM2.5-24B-A2B
LiquidAI 发布 LFM2.5-24B-A2B，基于 LFM2-24B-A2B 架构，激活参数 2B，上下文窗口从 32K 扩至 131K tokens，词表从 65K 扩至 128K，并改为只输出思维链的推理模型。预训练规模从约 17T 扩至约 33T tokens，后训练经 SFT、教师专精、两阶段多领域在线策略蒸馏和智能体强化学习五步，在 OpenClaw、Hermes Agent、Pi、OpenCode 等框架内训练。在 16 项基准中，它在 AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking 等 8 项工具与智能体基准中的 5 项领先或持平，三项指令遵循基准全部领先，但 GPQA Diamond、HLE、SWE-Bench Verified 等知识密集与编码基准仍落后于更大模型。模型已在 Hugging Face 开源权重，支持 llama.cpp、MLX、vLLM、SGLang、ONNX，在 M5 Max 上解码 184 tokens/s，单张 B300 高并发下输出超 21K tokens/s。
匹配字段标题
Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型
Liquid AI 发布 LFM2.5-24B-A2B，总参数 24B、每 token 仅激活 2B，是 LFM2.5 家族中最大也是最后一款模型，基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。该模型在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B，AutomationBench 得分为 27.69 对 8.72，LiveClaw 为 48.09 对 38.19。它采用显式思维链的纯推理模式，上下文窗口从 32,768 扩展到 131,072 tokens，词表从 65K 扩至 128K，预训练数据从 17T 扩至 33T tokens，在 Apple M5 Max 上解码 184 tokens/s，单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。
匹配字段标题
面壁智能开源 MiniCPM-V 4.7 系列，含 35B-A3B 与 1B 两款端侧多模态模型
面壁智能发布开源多模态模型系列 MiniCPM-V 4.7，包含 35B-A3B 和 1B 两款模型，面向 iOS 与 Android 设备端侧部署。35B-A3B 引入 LES（Lookahead Expert Scheduling）技术，在 iPad Pro M4（16GB）上实现 5 倍加速、17+ tokens/s，在 iPhone 17 Pro Max 上达 13+ tokens/s，内存占用仅 3GB。该模型在 34 项基准上取得竞争性结果，16 倍视觉 token 压缩下 OCRBench 得分 90.4，领先 Qwen3.6 35B-A3B 5.2 分，并支持 Apple、Intel、AMD、Arm 和 Rockchip 等平台。
匹配字段标题、摘要
面壁智能发布端侧多模态大模型 MiniCPM-V 4.7，35B-A3B 为系列首个 MoE 模型
面壁智能推出新一代端侧多模态大模型 MiniCPM-V 4.7，提供 35B-A3B 和 1B 两种规格，其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。官方称该版本基于 LES 前瞻专家调度推理加速技术，在 iPhone 17 Pro Max 上以仅 3GB 内存实现 13+ token/s 解码速度，并支持 iOS、安卓和鸿蒙，适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台。同步开源 Self-Replay Fine-Tuning (SRFT) 微调方案，官方称 35B-A3B 在 Instruct 模式下以更短推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分。
匹配字段标题、摘要、正文
微软发布 MAI-Code-1.1-Flash：成本降至四分之一并支持端侧运行
微软发布 MAI-Code-1.1-Flash，相比 6 月 Build 大会推出的版本，token 效率提升 25%，成本降至四分之一，并已在 GitHub Copilot 中投入生产。该模型经 3-bit 量化后可在端侧运行，保留 256K 上下文窗口，在 SWE-Bench Verified 和 Terminal-Bench 2.1 上编码性能与全精度版本相当，本地调用不产生推理费用，官方建议设备内存超过 120GB。GitHub Copilot CLI 上 Terminal-Bench 2.1 提升 22%，.NET 任务提升 15%，代码存活率上升 4%，回访率增加 9%；本月底将在 GitHub Copilot 应用、CLI 和 VS Code 中开放实验性访问。
匹配字段标题、摘要
LiquidAI 发布面向端侧的 d1-3B 与 d1-omni-600M 开源决策模型
LiquidAI 发布基于 LFM 的两款开源决策模型 d1-3B 和 d1-omni-600M，它们不生成 token，而是在单次前向传播中给出答案。d1-3B 基于 LFM2.5-VL-3B 训练，接受文本和图像输入，在七个公开数据集上平均得分 82.9，高于 Decider 4B；d1-omni-600M 基于双向编码器 LFM2.5-Encoder-350M，加入视觉和音频编码器，得分 78.4，超过 Decider 2B 的 77.1，参数量仅为其四分之一，目前处于早期研究发布阶段。与 NVIDIA 合作在 RTX 4090、Jetson AGX Thor、Jetson AGX Orin 64 GB 和 Jetson Orin Nano 上评测，d1-3B 在每台设备上回答单个问题均低于 50 ms，GPU 上低于 10 ms，处理 384px 图像低于 18 ms。两款模型均为开放权重，已在 Hugging Face 上线。
匹配字段标题
Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型
Google DeepMind 发布开放权重多模态嵌入模型 EmbeddingGemma 2，可将文本、图像、视频帧和音频映射到统一的向量空间，参数量 740M，文本权重在 Google Pixel 11 Pro 上仅需约 191MB 活跃内存，完整多模态模型约 567MB。该模型无需训练数据或微调即可作为端侧决策引擎，将用户输入直接与分类标签和描述匹配，实现毫秒级零样本意图路由。Google AI Edge Gallery 新增 Instant Media Search 和 Video Moments Finder 两个演示，Google AI Edge Foresight for Mac 也由 EmbeddingGemma 2 与 Gemma 4 驱动；未来数周内该模型将通过 ML Kit 以服务形式登陆 Android，并支持 NPU 加速。
匹配字段标题、摘要
Liquid AI 发布端侧视觉语言模型 LFM2.5-VL-3B
Liquid AI 发布 LFM2.5-VL-3B，一款面向端侧的视觉语言模型，已在 Hugging Face 和官方 Playground 上线。相比上一代 LFM2-VL-3B，它在屏幕与 UI 理解、函数调用、grounding 和多图输入四方面提升，ScreenSpot-v2 平均 80.7，ToolSandbox 从 26.4 升至 59.5，RefCOCO precision@1 从 57.1 升至 87.9。模型为非推理模型，直接作答以降低延迟，在 Apple M5 Max 上解码 228 tokens/s、Galaxy S26 Ultra 上 20 tokens/s，占用约 3 GB 内存，并支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。
匹配字段标题、摘要
Liquid AI 发布 LFM2.5-2.6B 端侧智能体模型
Liquid AI 发布 LFM2.5-2.6B，一款完全在设备端运行的智能体模型，基础版与后训练版已在 Hugging Face 上线。该模型为 2.6B 参数、预训练约 34T tokens，词表扩展至 128K 并包含 128K 上下文扩展阶段，后训练经 SFT、教师专精、MOPD 蒸馏与 Agentic RL 四阶段。推理方面在 M5 Max 上解码 220 tokens/s、Ryzen AI Max+ 395 上 113 tokens/s，占用低于 2.5 GB，手机端保持 30 tokens/s，并首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。
匹配字段标题
Liquid AI 发布 LFM2.5-230M 端侧小模型
Liquid AI 发布目前最小的模型 LFM2.5-230M，基于 LFM2 架构，预训练 19T tokens 并含 32K 上下文扩展阶段，Base 与后训练版本已在 Hugging Face 开放。官方称其在 Galaxy S25 Ultra 上解码速度 213 tok/s、Raspberry Pi 5 上 42 tok/s，并在 GPQA Diamond、MMLU-Pro、IFEval、BFCLv3/v4 等十项基准上与参数量两倍以上的模型竞争。该模型已适配 llama.cpp、MLX、vLLM、SGLang 和 ONNX，官方同时提示不适合高级数学、代码生成和创意写作等重推理任务。
匹配字段标题
Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B
Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B，面向消费级硬件上的工具调用，上下文窗口从 32,768 扩展到 128,000 tokens，预训练规模从 12T 提升到 38T tokens，词表从 65,536 扩至 128,000。该模型为纯推理模型，在 M5 Max 上解码 253 tokens/s、Ryzen AI Max+ 395 上 146 tokens/s，占用低于 6 GB，单张 H100 高并发下输出吞吐达 18.5K tokens/s。基础版与后训练版已在 Hugging Face 和 Playground 上线，首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。
匹配字段标题、摘要
Liquid AI 发布 LFM2.5-VL-450M 端侧视觉语言模型
Liquid AI 发布 LFM2.5-VL-450M，这是 LFM2-VL-450M 的改进版，新增目标检测与边界框定位、函数调用支持，并提升指令遵循能力。预训练规模从 10T 扩到 28T tokens，后训练用偏好优化和强化学习改进 grounding 与可靠性，支持八种语言提示。模型已在 Hugging Face、LEAP 和 Playground 上线，在 Jetson Orin 上处理 512×512 图像耗时低于 250ms。
匹配字段标题
Liquid AI 发布 LFM2.5-1.2B-Thinking 端侧推理模型，内存占用低于 1GB
Liquid AI 发布 LFM2.5-1.2B-Thinking，一款完全在设备端运行的推理模型，在手机上内存占用低于 900 MB，已在 Hugging Face、LEAP 和 Playground 上线。该模型为 1.2B 参数，相比 LFM2.5-1.2B-Instruct 在 MATH-500 上从 63 提升到 88、Multi-IF 从 61 提升到 69、BFCLv3 从 49 提升到 57，并在多数推理基准上匹配或超过参数量多 40% 的 Qwen3-1.7B。训练上采用课程式 RL 与模型合并，通过偏好对齐和 n-gram 重复惩罚把 doom loop 比例从 15.74% 降到 0.36%，并获 Qualcomm、Ollama、FastFlowLM、Cactus Compute 等新发布伙伴支持。
匹配字段标题
Liquid AI 发布 LFM2.5 端侧模型家族，含 1.2B 文本、VL 与 Audio 变体
Liquid AI 发布 LFM2.5-1.2B 模型家族，预训练规模从 10T 扩展到 28T token，并扩大强化学习后训练流程，包含 Base、Instruct、日语、视觉语言和音频语言模型。其中 LFM2.5-Audio-1.5B 采用新的 LFM 音频解分词器，在移动 CPU 上比 LFM2 的 Mimi 解分词器快 8 倍，并以 INT4 量化感知训练。所有模型均为开放权重，已在 Hugging Face 和 LEAP 上线，并获 llama.cpp、MLX、vLLM、ONNX 首日支持，AMD 与 Nexa AI 提供 NPU 优化版本。
匹配字段标题
Liquid AI 发布端侧 MoE 模型 LFM2-8B-A1B
Liquid AI 发布首个端侧 MoE 模型 LFM2-8B-A1B 的早期 checkpoint，总参数 8.3B、每 token 激活 1.5B，质量接近 3-4B 稠密模型，速度超过 Qwen3-1.7B。模型共 18 个门控短卷积块和 6 个 GQA 块，除前两层外每层含 MoE 块，每块 32 个专家、每 token 激活 top-4。基础版预训练约 12T token，语料约 55% 英文、25% 多语言、20% 代码，MMLU-Pro 比 LFM2-2.6B 提升 11.46 分，现已上线 Hugging Face，兼容 llama.cpp、ExecuTorch 和 vLLM。
匹配字段标题、摘要