←搜索结果

按匹配度 · 共 121 条结果 清除搜索

星期三

  1. 邵猛

    OpenBMB 发布 MiniCPM-V 4.7 端侧多模态模型

    OpenBMB 发布 MiniCPM-V 4.7,这是可在手机本地运行的开源 MoE 多模态模型,35B-A3B 参数,在 iPhone 17 Pro Max 上仅占 3 GB 内存,解码速度 13+ tokens/s。其 LES(前瞻专家调度)通过跨层路由预测提前加载专家权重,配合量化与存储布局优化,在真实设备上取得约 5 倍加速。面向开发者的 SRFT(自回放微调)在微调窄任务前用模型自生成标签做回放,以 Task:Replay = 4:1 混入任务数据,跨四个模型验证遗忘降低 80%–99%,任务性能基本无损。

    匹配字段标题

  2. Google DeepMind

    Google DeepMind 与新加坡 GovTech 推出端侧诈骗检测模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作推出端侧诈骗检测模型,基于轻量级 Gemma 微调,可在普通智能手机上本地运行。模型采用两级流水线,先用轻量分类器筛查消息,再用微调后的 Gemma 分析更大范围对话上下文,检测到操纵性对话模式时在设备上实时提醒用户。训练在 GovTech 管理的 GCP 环境中完成,数据经匿名化处理,不含私人或可识别个人信息,该成果在新加坡国际网络周(SICW 2026)上展示。

    匹配字段标题

  3. Hugging Face

    LiquidAI 发布端侧推理智能体模型 LFM2.5-24B-A2B

    LiquidAI 发布 LFM2.5-24B-A2B,基于 LFM2-24B-A2B 架构,激活参数 2B,上下文窗口从 32K 扩至 131K tokens,词表从 65K 扩至 128K,并改为只输出思维链的推理模型。预训练规模从约 17T 扩至约 33T tokens,后训练经 SFT、教师专精、两阶段多领域在线策略蒸馏和智能体强化学习五步,在 OpenClaw、Hermes Agent、Pi、OpenCode 等框架内训练。在 16 项基准中,它在 AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking 等 8 项工具与智能体基准中的 5 项领先或持平,三项指令遵循基准全部领先,但 GPQA Diamond、HLE、SWE-Bench Verified 等知识密集与编码基准仍落后于更大模型。模型已在 Hugging Face 开源权重,支持 llama.cpp、MLX、vLLM、SGLang、ONNX,在 M5 Max 上解码 184 tokens/s,单张 B300 高并发下输出超 21K tokens/s。

    匹配字段标题

星期二

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型

    Liquid AI 发布 LFM2.5-24B-A2B,总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。该模型在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19。它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens,在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。

    匹配字段标题

  2. 面壁智能 OpenBMB

    面壁智能开源 MiniCPM-V 4.7 系列,含 35B-A3B 与 1B 两款端侧多模态模型

    面壁智能发布开源多模态模型系列 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两款模型,面向 iOS 与 Android 设备端侧部署。35B-A3B 引入 LES(Lookahead Expert Scheduling)技术,在 iPad Pro M4(16GB)上实现 5 倍加速、17+ tokens/s,在 iPhone 17 Pro Max 上达 13+ tokens/s,内存占用仅 3GB。该模型在 34 项基准上取得竞争性结果,16 倍视觉 token 压缩下 OCRBench 得分 90.4,领先 Qwen3.6 35B-A3B 5.2 分,并支持 Apple、Intel、AMD、Arm 和 Rockchip 等平台。

    匹配字段标题

  3. IT之家·人工智能

    面壁智能发布端侧多模态大模型 MiniCPM-V 4.7,35B-A3B 为系列首个 MoE 模型

    面壁智能推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。官方称该版本基于 LES 前瞻专家调度推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存实现 13+ token/s 解码速度,并支持 iOS、安卓和鸿蒙,适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台。同步开源 Self-Replay Fine-Tuning (SRFT) 微调方案,官方称 35B-A3B 在 Instruct 模式下以更短推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分。

    匹配字段标题

  4. 集微网

    从iPhone 18看端侧AI发展趋势:苹果、高通、联发科、Intel、AMD五强路径对比

    2026年6月WWDC上,Apple发布与Google合作构建的第三代Apple Foundation Models(AFM 3)五模型家族,其中AFM 3 Core Advanced将完整20B参数模型存于闪存、按需加载路由专家,突破DRAM物理限制;iPhone 18 Pro搭载首款2nm芯片A20 Pro,端侧AI算力翻倍。高通、联发科、Intel、AMD则分别以Hexagon NPU、双NPU与CIM存算一体、OpenVINO、XDNA 2架构推进端侧布局,稀疏MoE与Agentic AI成为五强共同方向。

    匹配字段标题

  5. 集微网

    从GPU到端侧AI:中国AI芯片集团军突围

    集微网梳理中国AI芯片产业格局,以燧原科技上市为分界,云端已有摩尔线程、沐曦、壁仞、天数智芯、寒武纪、海光信息等7家核心企业登陆资本市场,未上市独角兽与大厂系芯片接力。文章指出行业共识的自我造血门槛是年营收30至50亿元、毛利率50%以上,目前仅海光信息和寒武纪跨过。2025年英伟达中国份额已从95%降至55%,国产算力合计41%,但HBM供应紧张、EDA依赖进口、CUDA生态护城河仍待突破。

    匹配字段标题

星期一

  1. VR陀螺

    Google XR Blocks 0.22.0发布:初步支持WebGPU,新增Gemma 4端侧AI及空间交互功能

    Google旗下开源XR开发工具库XR Blocks发布0.22.0版本,首次在桌面模拟器中支持three.js的WebGPURenderer,但空间UI组件尚未支持,仍属模拟器层面的初步适配。新版本新增Gemma 4助手、端侧图像超分辨率、基于EfficientSAM的圈选搜索等端侧AI示例,并将Gemini默认Flash模型更新为Gemini 3.8 Flash、three.js升级至r186。相关端侧AI功能目前主要面向开发者测试与原型验证。

    匹配字段标题

星期四

  1. Google Developers Blog精选

    Google 开源端侧 GPU 推理引擎 ML Drift

    Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift,它抽象 OpenGL ES、OpenCL、Metal 和 WebGPU,是 LiteRT 的核心 GPU 加速引擎,也可作为独立库使用。相比旧版 TFLite GPU delegate,它引入张量虚拟化统一 shader、可扩展自定义算子框架、5D 张量支持和针对 LLM 的阶段性优化,并新增 Windows 和 Linux 桌面预览。官方称 Gemma 基准中内存开销最多降低 12%,YouTube Shorts 平均帧延迟最多降低 40%,Google Photos 提速最多 2 秒,Adobe Lightroom 与 Photoshop 端侧性能最多提升 30%,Snapchat 镜头模型延迟改善 30%。旧版 TFLite GPU delegate 将不再获得新功能更新。

    ML Drift banner

    匹配字段标题

  2. Microsoft AI Blog

    微软发布 MAI-Code-1.1-Flash:成本降至四分之一并支持端侧运行

    微软发布 MAI-Code-1.1-Flash,相比 6 月 Build 大会推出的版本,token 效率提升 25%,成本降至四分之一,并已在 GitHub Copilot 中投入生产。该模型经 3-bit 量化后可在端侧运行,保留 256K 上下文窗口,在 SWE-Bench Verified 和 Terminal-Bench 2.1 上编码性能与全精度版本相当,本地调用不产生推理费用,官方建议设备内存超过 120GB。GitHub Copilot CLI 上 Terminal-Bench 2.1 提升 22%,.NET 任务提升 15%,代码存活率上升 4%,回访率增加 9%;本月底将在 GitHub Copilot 应用、CLI 和 VS Code 中开放实验性访问。

    Two large white curly brackets on a green background overlayed with rows of faint text and code-like characters, creating a digital, abstract effect.

    匹配字段标题

  3. Hugging Face

    LiquidAI 发布面向端侧的 d1-3B 与 d1-omni-600M 开源决策模型

    LiquidAI 发布基于 LFM 的两款开源决策模型 d1-3B 和 d1-omni-600M,它们不生成 token,而是在单次前向传播中给出答案。d1-3B 基于 LFM2.5-VL-3B 训练,接受文本和图像输入,在七个公开数据集上平均得分 82.9,高于 Decider 4B;d1-omni-600M 基于双向编码器 LFM2.5-Encoder-350M,加入视觉和音频编码器,得分 78.4,超过 Decider 2B 的 77.1,参数量仅为其四分之一,目前处于早期研究发布阶段。与 NVIDIA 合作在 RTX 4090、Jetson AGX Thor、Jetson AGX Orin 64 GB 和 Jetson Orin Nano 上评测,d1-3B 在每台设备上回答单个问题均低于 50 ms,GPU 上低于 10 ms,处理 384px 图像低于 18 ms。两款模型均为开放权重,已在 Hugging Face 上线。

    匹配字段标题

星期二

  1. 新京报

    YOYO Claw、Xiaomi miclaw、阶跃终端AI 3款手机端侧生成式AI服务完成备案

    网信部门公告新增“YOYO Claw”、Xiaomi miclaw、阶跃终端AI 3款提供手机端侧生成式人工智能服务备案,备案单位分别为深圳荣耀软件技术有限公司、小米科技有限责任公司、智源星辰(上海)智能科技有限公司,分别适用荣耀手机、小米手机、阶跃手机。

    匹配字段标题

  2. Google Developers Blog

    Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型

    Google DeepMind 发布开放权重多模态嵌入模型 EmbeddingGemma 2,可将文本、图像、视频帧和音频映射到统一的向量空间,参数量 740M,文本权重在 Google Pixel 11 Pro 上仅需约 191MB 活跃内存,完整多模态模型约 567MB。该模型无需训练数据或微调即可作为端侧决策引擎,将用户输入直接与分类标签和描述匹配,实现毫秒级零样本意图路由。Google AI Edge Gallery 新增 Instant Media Search 和 Video Moments Finder 两个演示,Google AI Edge Foresight for Mac 也由 EmbeddingGemma 2 与 Gemma 4 驱动;未来数周内该模型将通过 ML Kit 以服务形式登陆 Android,并支持 NPU 加速。

    匹配字段标题

星期五

  1. 虎嗅

    AI办公市场90%被大厂占据,创业者转向端侧与嵌入生态两条路

    AI办公赛道约90%的机会已被腾讯、阿里、微软等大厂占据,创业者只剩10%空间,并分化出两条路径。中国创业者转向端侧与本地部署,如WinClaw做本地知识库、元空智能用35B模型BOXER做端侧AI for Science,以买断制规避按Token付费;美国创业者则嵌入Slack、iMessage等现有工具,如Viktor、Poke按工作区或外包预算收费。

    匹配字段标题

星期四

  1. 科学网

    陈云霁:人工智能正经历两个重大变化,端侧AI芯片成汇合点

    中国科学院工业人工智能研究所副所长陈云霁在2026集成电路(无锡)创新发展大会上指出,人工智能正从“计算的应用”走向“计算的定义者”,并加速从信息空间走向汽车、机器人、工业装备、能源系统等真实物理世界。他认为真正的端侧AI并非把云端模型缩小搬到设备上,而需芯片、算法、模型、体系结构、存储、编译和系统软件全栈协同,产生更高的“有效智能”。会上,江苏省集成电路产业联盟端侧AI芯片组正式揭牌。

    匹配字段标题

星期二

  1. SemiAnalysis

    机器人该在哪里思考:端侧推理与数据中心推理之争

    SemiAnalysis 分析机器人推理的端侧与数据中心路线之争:当前通用机器人模型仍停留在数十亿参数级,如 Physical Intelligence 的 π0 约 3B、π0.7 为 5B、字节 GR-3 为 4B、NVIDIA DreamZero 为 14B。由于 100Hz 以上的动作与伺服控制回路无法离开本体,而规划层可低至 5Hz,作者认为需要真正智能的通用机器人将部分认知卸载到数据中心 GPU 更具优势。

    匹配字段标题

星期四

  1. NVIDIA Developer · Generative AI

    NVIDIA 教程:后训练 Cosmos 3 Edge 实现 Jetson Thor 端侧机器人控制

    NVIDIA 发布教程,介绍如何后训练 4B 的 Cosmos 3 Edge 全能模型,使其在 NVIDIA Jetson Thor 上原生运行机器人操作策略。在 Jetson AGX Thor T5000 上,该策略约 1.53 秒生成一个动作块,单个动作块覆盖约 2.13 秒机器人运动,因此无需数据中心 GPU 即可连续实时控制。在 RoboLab 闭环评测的 120 项语言条件操作任务中,后训练后的 Edge 策略成功率为 22.9%,Nano 为 36.8%。训练数据为 nvidia/Cosmos3-DROID 数据集,含 76k 条成功遥操作轨迹、约 350 小时、86 项任务和 564 个场景;后训练与部署脚本已在开源 cosmos-framework 仓库提供,检查点发布在 Hugging Face。

    匹配字段标题

星期三

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布端侧视觉语言模型 LFM2.5-VL-3B

    Liquid AI 发布 LFM2.5-VL-3B,一款面向端侧的视觉语言模型,已在 Hugging Face 和官方 Playground 上线。相比上一代 LFM2-VL-3B,它在屏幕与 UI 理解、函数调用、grounding 和多图输入四方面提升,ScreenSpot-v2 平均 80.7,ToolSandbox 从 26.4 升至 59.5,RefCOCO precision@1 从 57.1 升至 87.9。模型为非推理模型,直接作答以降低延迟,在 Apple M5 Max 上解码 228 tokens/s、Galaxy S26 Ultra 上 20 tokens/s,占用约 3 GB 内存,并支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。

    匹配字段标题