←搜索结果

搜索“端侧”

按匹配度 · 共 350 条结果 清除搜索

星期日

  1. 事件1 条新闻 · 1 个事实

    OpenBMB展示MiniCPM-V 4.7 1B在普通iPhone端侧运行

    OpenBMB(面壁智能)展示了 MiniCPM-V 4.7 1B 在普通 iPhone 上通过 OnDeviceLLM 本地运行。相关报道称,该模型不再限于 12GB 内存的 Pro Max 机型,可在设备端离线完成读取收据并计算总额、提取传单信息、理解截图等视觉任务,飞行模式下也能使用。目前该消息来自单一来源的同一发生证据,尚无后续独立发展。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    Matt Turck称开源语音AI迎来小型端侧SOTA TTS模型套件

    Matt Turck 转发并评论称,开源语音AI领域出现一套小型端侧SOTA文本转语音模型套件。相关消息显示,Gradium 开源了 Phonon 端侧语音合成模型套件,全部模型参数均在 50m 以下,主打多语言自然度与准确度,并称提供迄今最广的推理支持;其中 Phonon-31m 以 Apache 2.0 许可开放。目前该消息由 Matt Turck 转发,尚无更多后续发展。

    匹配字段标题

  3. 事实所属事件

    Matt Turck称开源语音AI迎来小型端侧SOTA TTS模型套件

    Matt Turck 转发并评论称,开源语音AI领域出现一套小型端侧SOTA文本转语音模型套件。相关消息显示,Gradium 开源了 Phonon 端侧语音合成模型套件,全部模型参数均在 50m 以下,主打多语言自然度与准确度,并称提供迄今最广的推理支持;其中 Phonon-31m 以 Apache 2.0 许可开放。目前该消息由 Matt Turck 转发,尚无更多后续发展。

    匹配字段标题

    查看事件：Matt Turck称开源语音AI迎来小型端侧SOTA TTS模型套件

  4. 事件1 条新闻 · 1 个事实

    Meta将Agent模型Muse Glimmer 30B压缩至端侧运行

    Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。

    匹配字段标题

星期三

  1. 事实所属事件

    OpenBMB展示MiniCPM-V 4.7 1B在iPhone端侧运行

    OpenBMB(面壁智能)展示了 MiniCPM-V 4.7 1B 在普通 iPhone 上通过 OnDeviceLLM 本地运行。相关报道称,该模型不再限于 12GB 内存的 Pro Max 机型,可在设备端离线完成读取收据并计算总额、提取传单信息、理解截图等视觉任务,飞行模式下也能使用。目前该消息来自单一来源的同一发生证据,尚无后续独立发展。

    匹配字段标题

    查看事件：OpenBMB展示MiniCPM-V 4.7 1B在普通iPhone端侧运行

星期二

  1. 事实所属事件

    Meta将Agent模型Muse Glimmer 30B压缩至端侧运行

    Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。

    匹配字段标题

    查看事件：Meta将Agent模型Muse Glimmer 30B压缩至端侧运行

星期五

  1. 事件1 条新闻 · 1 个事实

    Iron Device参与政府项目开发机器人手端侧AI计算模块

    2026年10月15日,韩国无晶圆厂半导体公司Iron Device宣布参与韩国产业通商资源部(MOTIR)牵头的政府项目,开发面向高自由度机械手的端侧AI计算模块。该模块为集成CPU、GPU和NPU的SoC,目标相比Nvidia Jetson Orin Nano平台缩小约59%占用面积、能效提升至3倍(TOPS/W),并将传感器采集到电机控制的延迟降至20毫秒以内。项目总预算约52.5亿韩元,从2026年8月持续到2029年底。Iron Device计划将成品模块独立销售给国内外人形及工业机器人客户。目前尚无进一步有证据的发展。

    匹配字段标题

星期四

星期三

  1. 事件4 条新闻 · 2 个事实

    MiniCPM-V 4.7 在 Apple Silicon 上实现端侧推理

    2026年10月13日,面壁智能宣布 MiniCPM-V 4.7 在 Apple Silicon 上获得 Day 0 全端侧推理支持。据当日报道,该模型(1B 与 35B-A3B)通过与 Nativ 合作在 Mac 上实现全本地推理,支持图像与视频理解;在 Apple Silicon 搭配 Nativ v0.4.x 实测中,1B 版 prefill 超 24K tokens/s、decode 315 tok/s,35B-A3B 版 prefill 超 4K tokens/s、decode 90 tok/s。10月13日至14日的后续报道称,面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,为 35B-A3B 的 MoE 模型,可在手机上以仅 3GB 内存运行,能识别现实路牌、按约束做规划、解析复杂文档并对视觉数据推理,同时提供轻量 1B 版本,覆盖 iOS 与 Android。

    匹配字段标题

  3. 事件1 条新闻 · 1 个事实

    Google DeepMind与GovTech交付端侧诈骗检测模型

    2026年10月14日,Google DeepMind与新加坡政府科技局(GovTech)合作交付一款端侧诈骗检测模型,该成果在新加坡国际网络周(SICW 2026)上展示。据Google DeepMind介绍,模型基于轻量级Gemma微调,可在普通智能手机上本地运行,采用两级流水线:先用轻量分类器筛查消息,再用微调后的Gemma分析更大范围对话上下文,检测到操纵性对话模式时在设备上实时提醒用户。训练在GovTech管理的GCP环境中完成,数据经匿名化处理,不含私人或可识别个人信息。目前尚无后续发展事实。

    匹配字段标题

  5. 事件3 条新闻 · 2 个事实

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

    2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。

    匹配字段标题

星期二

  1. 事实所属事件

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

    2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。

    English translation is being prepared.

    匹配字段标题

    查看事件：Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

  3. 事件1 条新闻 · 1 个事实

    网信部门公告新增3款手机端侧生成式AI服务备案

    2025年9月23日,网信部门公告新增3款提供手机端侧生成式人工智能服务备案。据新京报报道,这3款服务分别为“YOYO Claw”、Xiaomi miclaw、阶跃终端AI,备案单位分别为深圳荣耀软件技术有限公司、小米科技有限责任公司、智源星辰(上海)智能科技有限公司,分别适用荣耀手机、小米手机、阶跃手机。目前该事件暂无进一步有合格事实证据的发展。

    匹配字段标题

星期日

  1. 事件7 条新闻 · 2 个事实

    微软发布Windows端侧智能更新

    2026年10月8日,微软发布Windows端侧智能更新,涵盖端侧模型、Copilot与安全Agent能力。据早先报道,微软为Windows引入本地智能体能力,发布137B参数、256K上下文窗口的编码模型MAI-Code-1.1 Flash,并推出Hybrid Intelligence让Copilot直接在PC上执行操作、敏感数据保留在本地,Windows与Agent 365结合提供MXC本地沙箱。后续报道称,微软于10月7日宣布AI智能体策略驱动容器Microsoft Execution Containers(MXC)正式可用,支持在Windows、Linux、macOS上以沙箱方式运行模型输出、插件、工具等不可信代码,已在GitHub以MIT许可开源,GitHub Copilot、OpenAI Codex等已支持。此后,HuggingFace CEO Clément Delangue发表评论,称微软Windows发布展示了本地AI及llama.cpp的令人兴奋之处。

    匹配字段标题

  2. 事件5 条新闻 · 2 个事实

    Liquid AI发布决策模型d1并开源端侧系列

    2026年9月30日,Liquid AI发布首个决策模型d1,面向结构化选择而非文本生成:输入上下文和一组带类型的问题后,单次调用返回固定结果集上的校准概率,usage.output_tokens为0。据官方博客,d1可同时接收文本和图像,一次前向传播直接返回各选项概率,文本决策耗时200到300毫秒;官方称在六个真实应用中d1在四项上追平或超过GPT-6.1 Sol,成本比GPT-6.1 Sol和Claude Opus 5.5低19到200倍。d1已在Liquid AI API上线,按输入token计费,图像按每32×32像素块1.5 token折算,并通过Vercel和OpenRouter提供纯文本版本。10月7日至8日,Liquid AI进一步发布开放权重端侧多模态决策模型d1-3B与d1-omni-600M,已在Hugging Face上线。d1-3B在Decision Index v0.2.1公开集得48.57,单次提问在RTX 4090上8毫秒、Jetson AGX Thor上16毫秒、Jetson AGX Orin上26毫秒、Jetson Orin Nano上50毫秒;d

    匹配字段标题

星期四