←新闻详情

IT之家·人工智能更新于 10月14日 08:50

面壁智能发布端侧多模态大模型 MiniCPM-V 4.7,35B-A3B 为系列首个 MoE 模型

面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度 - IT之家

AI 导读

面壁智能推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。官方称该版本基于 LES 前瞻专家调度推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存实现 13+ token/s 解码速度,并支持 iOS、安卓和鸿蒙,适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台。同步开源 Self-Replay Fine-Tuning (SRFT) 微调方案,官方称 35B-A3B 在 Instruct 模式下以更短推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分。

推荐理由

AI 评分 74

面壁智能端侧多模态模型首次引入 MoE,给出 3GB 内存下的解码速度与跨芯片适配情况,可据此判断端侧多模态的落地边界。

主题

标签

正文

IT之家 10 月 13 日消息,面壁智能今天宣布推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。

据官方介绍,这款模型基于最新 LES(前瞻专家调度)推理加速技术,其中 35B-A3B 版本是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。

IT之家了解到,MiniCPM-V 4.7 同时支持 iOS、安卓和鸿蒙,并适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台,覆盖更多移动设备与本地计算场景。同步开源 Self-Replay Fine-Tuning (SRFT) 微调方案,帮助开发者低成本扩展模型能力和减少遗忘,方便二次开发。

此外,该模型 35B-A3B 版本在 Instruct 模式下,以更短的推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分;1B 版本相比 MiniCPM-V 4.6 持续提升基础能力,并在综合得分和推理效率上均显著领先 Qwen3.5 0.8B。

参考:

MiniCPM-V/README_zh.md at main · OpenBMB/MiniCPM-V · GitHub

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

来源

IT之家·人工智能