←搜索结果

搜索“端侧”

按匹配度 · 共 86 条结果 清除搜索

星期六

  1. 事件1 条新闻 · 1 个事实

    NVIDIA发布端侧小模型Nemotron-3.5-Bolt-E4B

    NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4_K_M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。

    NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4 K M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。

    匹配字段标题

星期五

  1. 事实所属事件

    NVIDIA发布端侧小模型Nemotron-3.5-Bolt-E4B

    NVIDIA 发布端侧小模型 Nemotron-3.5-Bolt-E4B。2026 年 10 月 23 日的报道称,该模型可在 6GB 内存的设备上本地运行,面向手机等端侧设备;它基于 Gemma 4 训练,支持视觉,Unsloth 同时给出了 GGUF 文件和指南链接。NVIDIA 称其面向本地助手、交互角色和机器人等可对话并调用工具的场景。10 月 24 日的后续报道称,该模型为 8B 总参数、4B 有效参数、64K 上下文,基于 Google Gemma 4 E4B 仅用强化学习后训练;Q4_K_M 版本在 RTX 上占用 3.1 至 4.3 GB 显存,可在 GeForce RTX、Jetson 和 DGX Spark 上运行。该报道还称,NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B,但 Tau2-Bench 为 55.1,落后 Qwen3.5-4B 的 75.1。

    匹配字段标题

    查看事件：NVIDIA发布端侧小模型Nemotron-3.5-Bolt-E4B

星期日

  1. 事件1 条新闻 · 1 个事实

    Matt Turck称开源语音AI迎来小型端侧SOTA TTS模型套件

    Matt Turck 转发并评论称,开源语音AI领域出现一套小型端侧SOTA文本转语音模型套件。相关消息显示,Gradium 开源了 Phonon 端侧语音合成模型套件,全部模型参数均在 50m 以下,主打多语言自然度与准确度,并称提供迄今最广的推理支持;其中 Phonon-31m 以 Apache 2.0 许可开放。目前该消息由 Matt Turck 转发,尚无更多后续发展。

    匹配字段标题

  2. 事实所属事件

    Matt Turck称开源语音AI迎来小型端侧SOTA TTS模型套件

    Matt Turck 转发并评论称,开源语音AI领域出现一套小型端侧SOTA文本转语音模型套件。相关消息显示,Gradium 开源了 Phonon 端侧语音合成模型套件,全部模型参数均在 50m 以下,主打多语言自然度与准确度,并称提供迄今最广的推理支持;其中 Phonon-31m 以 Apache 2.0 许可开放。目前该消息由 Matt Turck 转发,尚无更多后续发展。

    匹配字段标题

    查看事件：Matt Turck称开源语音AI迎来小型端侧SOTA TTS模型套件

星期三

  1. 事件3 条新闻 · 1 个事实

    MiniCPM-V 4.7 在 Apple Silicon 上实现端侧推理

    2026年10月13日,面壁智能宣布 MiniCPM-V 4.7 在 Apple Silicon 上获得 Day 0 全端侧推理支持。据当日报道,该模型(1B 与 35B-A3B)通过与 Nativ 合作在 Mac 上实现全本地推理,支持图像与视频理解;在 Apple Silicon 搭配 Nativ v0.4.x 实测中,1B 版 prefill 超 24K tokens/s、decode 315 tok/s,35B-A3B 版 prefill 超 4K tokens/s、decode 90 tok/s。10月13日至14日的后续报道称,面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,为 35B-A3B 的 MoE 模型,可在手机上以仅 3GB 内存运行,能识别现实路牌、按约束做规划、解析复杂文档并对视觉数据推理,同时提供轻量 1B 版本,覆盖 iOS 与 Android。

    匹配字段标题

  3. 事件2 条新闻 · 1 个事实

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

    2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。

    匹配字段标题

星期二

  1. 事实所属事件

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

    2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。

    English translation is being prepared.

    匹配字段标题

    查看事件：Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

星期日

  1. 事件5 条新闻 · 2 个事实

    Liquid AI发布决策模型d1并开源端侧系列

    2026年9月30日,Liquid AI发布首个决策模型d1,面向结构化选择而非文本生成:输入上下文和一组带类型的问题后,单次调用返回固定结果集上的校准概率,usage.output_tokens为0。据官方博客,d1可同时接收文本和图像,一次前向传播直接返回各选项概率,文本决策耗时200到300毫秒;官方称在六个真实应用中d1在四项上追平或超过GPT-6.1 Sol,成本比GPT-6.1 Sol和Claude Opus 5.5低19到200倍。d1已在Liquid AI API上线,按输入token计费,图像按每32×32像素块1.5 token折算,并通过Vercel和OpenRouter提供纯文本版本。10月7日至8日,Liquid AI进一步发布开放权重端侧多模态决策模型d1-3B与d1-omni-600M,已在Hugging Face上线。d1-3B在Decision Index v0.2.1公开集得48.57,单次提问在RTX 4090上8毫秒、Jetson AGX Thor上16毫秒、Jetson AGX Orin上26毫秒、Jetson Orin Nano上50毫秒;d

    匹配字段标题

  2. 事件1 条新闻 · 0 个事实

    微软发布Windows端侧智能更新

    2026年10月8日,微软发布Windows端侧智能更新,涵盖端侧模型、Copilot与安全Agent能力。据早先报道,微软为Windows引入本地智能体能力,发布137B参数、256K上下文窗口的编码模型MAI-Code-1.1 Flash,并推出Hybrid Intelligence让Copilot直接在PC上执行操作、敏感数据保留在本地,Windows与Agent 365结合提供MXC本地沙箱。后续报道称,微软于10月7日宣布AI智能体策略驱动容器Microsoft Execution Containers(MXC)正式可用,支持在Windows、Linux、macOS上以沙箱方式运行模型输出、插件、工具等不可信代码,已在GitHub以MIT许可开源,GitHub Copilot、OpenAI Codex等已支持。此后,HuggingFace CEO Clément Delangue发表评论,称微软Windows发布展示了本地AI及llama.cpp的令人兴奋之处。

    匹配字段标题

  3. 事件1 条新闻 · 1 个事实

    Liquid AI发布端侧视觉语言模型LFM2.5-VL-3

    2026年8月12日,Liquid AI 发布面向端侧的视觉语言模型 LFM2.5-VL-3B,并已在 Hugging Face 和官方 Playground 上线。相比上一代 LFM2-VL-3B,新模型在屏幕与 UI 理解、函数调用、grounding 和多图输入四方面有所提升:ScreenSpot-v2 平均 80.7,ToolSandbox 从 26.4 升至 59.5,RefCOCO precision@1 从 57.1 升至 87.9。该模型为非推理模型,直接作答以降低延迟,在 Apple M5 Max 上解码 228 tokens/s、Galaxy S26 Ultra 上 20 tokens/s,占用约 3 GB 内存,并支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。

    匹配字段标题

  4. 事件1 条新闻 · 1 个事实

    Liquid AI发布端侧Agent模型LFM2.5-2.6

    2026年8月4日,Liquid AI 发布端侧智能体模型 LFM2.5-2.6B,基础版与后训练版已在 Hugging Face 上线。该模型为 2.6B 参数,预训练约 34T tokens,词表扩展至 128K,并包含 128K 上下文扩展阶段;后训练经 SFT、教师专精、MOPD 蒸馏与 Agentic RL 四阶段。推理方面,在 M5 Max 上解码 220 tokens/s,Ryzen AI Max+ 395 上 113 tokens/s,占用低于 2.5 GB,手机端保持 30 tokens/s,并首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。

    匹配字段标题

  5. 事件1 条新闻 · 1 个事实

    Liquid AI发布端侧MoE模型LFM2.5-8B-A1

    2026年5月28日,Liquid AI发布端侧混合专家(MoE)模型LFM2.5-8B-A1B,面向消费级硬件上的工具调用场景。据其模型与工程博客介绍,该模型上下文窗口从32,768扩展至128,000 tokens,预训练规模从12T提升至38T tokens,词表从65,536扩至128,000,且为纯推理模型。性能方面,其在M5 Max上解码253 tokens/s,在Ryzen AI Max+ 395上为146 tokens/s,占用低于6 GB,单张H100高并发下输出吞吐达18.5K tokens/s。基础版与后训练版已在Hugging Face和Playground上线,首日支持llama.cpp、MLX、vLLM、SGLang和ONNX。

    匹配字段标题

  6. 事件1 条新闻 · 1 个事实

    Liquid AI发布24B稀疏MoE模型并展示端侧Agen

    2026年2月24日,Liquid AI发布LFM2-24B-A2B早期检查点,这是其最大的LFM2模型,采用稀疏MoE架构,总参数24B、每token激活2.3B,设计上可放入32GB内存,权重已在Hugging Face开放。模型沿用LFM2-8B-A1B配方,层数从24增至40、每MoE块专家数从32增至64,保持top-4路由,前两层仍为稠密层。官方称在GPQA Diamond、MMLU-Pro、IFEval、IFBench、GSM8K和MATH-500等基准上,从350M到24B质量随规模呈对数线性提升;该模型已获llama.cpp、vLLM和SGLang首日支持,在单张H100 SXM5上用vLLM于1024并发请求下达到约26.8K tokens/s。3月5日,Liquid AI发布开源桌面智能体LocalCowork,完全在本地运行,模型、工具和数据都不离开设备,无需云端和API key。在Apple M4 Max、36GB统一内存笔记本上,模型以Q4_K_M GGUF经llama-server部署,占用约14.5GB内存,单次工具选择平均约385ms,在13个MCP服

    匹配字段标题

  7. 事件1 条新闻 · 1 个事实

    Liquid AI发布端侧推理模型LFM2.5-1.2B-T

    2026年1月20日,Liquid AI发布端侧推理模型LFM2.5-1.2B-Thinking,该模型完全在设备端运行,在手机上内存占用低于900 MB,并已在Hugging Face、LEAP和Playground上线。模型为1.2B参数,相比LFM2.5-1.2B-Instruct,在MATH-500上从63提升到88,Multi-IF从61提升到69,BFCLv3从49提升到57,并在多数推理基准上匹配或超过参数量多40%的Qwen3-1.7B。训练采用课程式RL与模型合并,通过偏好对齐和n-gram重复惩罚把doom loop比例从15.74%降到0.36%,并获Qualcomm、Ollama、FastFlowLM、Cactus Compute等新发布伙伴支持。

    匹配字段标题

  8. 事件1 条新闻 · 1 个事实

    Liquid AI发布LFM2.5端侧模型家族

    2026年1月5日,Liquid AI发布LFM2.5-1.2B模型家族,预训练规模从10T扩展至28T token,并扩大强化学习后训练流程。该家族包含Base、Instruct、日语、视觉语言和音频语言模型。其中LFM2.5-Audio-1.5B采用新的LFM音频解分词器,在移动CPU上比LFM2的Mimi解分词器快8倍,并以INT4量化感知训练。所有模型均为开放权重,已在Hugging Face和LEAP上线,并获llama.cpp、MLX、vLLM、ONNX首日支持,AMD与Nexa AI提供NPU优化版本。

    匹配字段标题

星期二

星期四

星期二

星期一