Ben Horowitz回顾了1999年创办Loudcloud时的经历:当时带宽每兆位1500美元且有钱难买,公司被迫签下三年高价长约;仅两年后带宽价格跌至50美元,借钱囤带宽的公司被周期压垮。他借此对比当下AI应用层每百万Token调用价格持续跳水,而显卡、数据中心地皮、电力指标和熟练工人价格全面上涨,认为算力云厂商的高租金溢价本质脆弱。他还判断,当端侧小模型性能追上大模型时,云端千卡万卡集群的盲目崇拜可能在几个月内退烧。
匹配字段摘要
世界银行敦促发展中国家开发可在手机等设备上端侧运行的小型AI模型,以帮助网络条件较差的地区发挥人工智能潜力。世界银行首席知识官帕斯卡尔·多诺霍表示,AI可加速新兴经济体发展,但须按当地需求调整,并以印度农民参与的农业计划AgriConnect用手机分析土壤为例。另有报道称,多诺霍呼吁发展中国家开发可在低连接环境下运行于手机的“小AI”专用模型,认为这有望把原本需要数百年的经济发展压缩到数十年,此类产品可由世界银行、政府和私营部门合作推出。目前该呼吁由两家媒体报道,尚无后续进展。
匹配字段摘要
Nvidia于2026年10月15日宣布推出Nemotron 3.5 Super VL与面向端侧的3.5 Bolt模型。据Nvidia官方介绍,Super VL为120B参数开放模型,面向常驻智能体任务,官方称其在同类开放模型中吞吐最高,比次优模型快5倍;同时推出Bolt 74B-A9B 24GB与Bolt E4B 4GB两款端侧模型,前者可在RTX/DGX Spark本地运行智能体任务,后者面向GeForce RTX、Jetson上的语音与对话智能体。Super VL与Bolt 74B-A9B已上线Hugging Face,Bolt E4B计划于10月23日发布。同日,SGLang宣布为Super VL提供Day-0支持,在单张RTX 6000 PRO上借助MTP达到243.9 tok/s;Prime Intellect与Nvidia用GRPO在128张GB200 GPU上后训练约11小时,使其在AutomationBench-AA公开集上从34.0%提升到57.7%。当晚OpenRouter上线该模型,次日Perplexity宣布Pro和Max订阅用户及Agent API可使用。
匹配字段摘要
2026年10月15日,FF EAI Robotics Ecosystem Inc.与Faraday Future Intelligent Electric Inc.联合发布FF Nova与FF Nova Mini人形机器人。据Unite.AI报道,FF Nova定价2,490美元,高49.7厘米、重2.8公斤,具备20个全身自由度,搭载10 TOPS端侧算力、8 GB内存与32 GB存储,支持双足行走(0.1米/秒)或轮式底座(0.8米/秒),并提供开放SDK与ROS 2开发流程;FF Nova Mini定价299美元,面向Physical AI基础教育。Nova首批100台采用邀请制限量发售,其中前20台可立即交付。目前尚无进一步有证据支持的发展。
匹配字段摘要
晶存科技参展于10月14日至16日举行的韩国半导体展SEDEX 2026,展示面向端侧AI的存储产品。据集微网报道,其展出的“双96”LPCAMM2内存模组单模块容量96GB、最高速率9600Mbps,基于LPDDR5X,已完成国际头部PC终端厂商相关平台适配验证。同期展示的PCIe 5.0 SSD采用PCIe 5.0 ×4接口、符合NVMe 2.0标准,顺序读取最高11500MB/s、写入最高10500MB/s,面向AI PC与端侧AI应用。目前尚无该参展事项的后续发展事实。
匹配字段摘要
2026年10月16日,杭州具身智能创企磐虎智能完成数千万天使轮融资,由普华资本、恒择资本共同投资。据智东西报道,资金将用于TigerMind多维感官认知世界模型、端侧智能及产业级具身智能系统研发。该公司由浙江大学侯迪波创立,前钉钉副总裁、阿里B2B搜索和广告CTO林锋任联合创始人,并已与城市公共事业、工业基础设施、智能家居康养等领域伙伴开展场景共创。目前尚无后续发展事实。
匹配字段摘要
Google于2026年10月14日宣布在Android上推出AI反诈骗防护。核心是Google Messages中可选开启的Enhanced protection模式,开启后Scam Detection可通过Private AI Compute调用云端Gemini模型分析陌生发件人消息的上下文与意图,该模式将在未来几周内推送。第二层防护用端侧Gemini Nano实时核查链接安全性,第三层为陌生号码链接增加带上下文的警告。Google称其Scam Detection目前每月标记超过500万条疑似诈骗通话和短信。此外,Android将屏幕共享敏感信息隐藏扩展到Chrome和Android WebView,并新增通话转接保护,后者将于2026年12月初在Pixel等设备上线。后续报道称,该防护正面向符合条件的设备推送,云端防护默认关闭需用户手动开启,设备端聊天通知诈骗检测将从Pixel扩展到更多Android设备。
匹配字段摘要
2026年10月14日,上海3D存算一体AI芯片公司思敏威集成电路有限公司宣布完成约亿元天使轮融资。据智东西报道,本轮由中兴通讯战略投资,博华产投、松青资本、建信信托、合创资本等联合投资,老股东德同资本追投。报道称,资金将用于第二代3D堆叠产品研发和工程化;其第一代3D堆叠量产芯片青衡3D-HPU流片在即,基于3D-cHMC存算融合架构,端侧智能方案宣称可在设备功耗与空间约束下实现每秒1000个token的推理性能。目前尚无后续发展事实。
匹配字段摘要
Google旗下开源XR开发工具库XR Blocks发布0.22.0版本。据VR陀螺报道,该版本首次在桌面模拟器中支持three.js的WebGPURenderer,但空间UI组件尚未支持,仍属模拟器层面的初步适配。新版本新增Gemma 4助手、端侧图像超分辨率、基于EfficientSAM的圈选搜索等端侧AI示例,并将Gemini默认Flash模型更新为Gemini 3.8 Flash、three.js升级至r186。报道称相关端侧AI功能目前主要面向开发者测试与原型验证。目前尚无后续发展事实。
匹配字段摘要
2026年10月13日,OpenBMB(面壁智能)就社区对推动本地多模态 AI 发展的兴趣作出回应。其回应出现在对 MiniCPM V4.7 端侧多模态分享的回复中,表示很高兴看到社区从手机到边缘设备推动本地多模态 AI 发展的兴趣。目前该故事仅有这一条有证据的事实,暂无后续发展。
匹配字段摘要
2026年10月8日,Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift。该引擎抽象 OpenGL ES、OpenCL、Metal 和 WebGPU,是 LiteRT 的核心 GPU 加速引擎,也可作为独立库使用。相比旧版 TFLite GPU delegate,它引入张量虚拟化统一 shader、可扩展自定义算子框架、5D 张量支持和针对 LLM 的阶段性优化,并新增 Windows 和 Linux 桌面预览。官方称 Gemma 基准中内存开销最多降低 12%,YouTube Shorts 平均帧延迟最多降低 40%,Google Photos 提速最多 2 秒,Adobe Lightroom 与 Photoshop 端侧性能最多提升 30%,Snapchat 镜头模型延迟改善 30%。旧版 TFLite GPU delegate 将不再获得新功能更新。目前尚无后续发展事实。
匹配字段摘要
2026年10月10日,Apple 推出第三代 Apple Foundation Models(AFM),共五款模型,覆盖端侧与运行在 Private Cloud Compute 上的服务器模型。端侧包括 30 亿参数的 AFM 3 Core 和 200 亿参数、稀疏架构的 AFM 3 Core Advanced,后者每次仅激活 1 至 40 亿参数;服务器端包括 AFM 3 Cloud、图像模型 ADM 3 Cloud 和 AFM 3 Cloud Pro。评测显示,AFM 3 Core 在通用文本上获得 45.6% 的偏好率,AFM 3 Cloud 为 64.7%,AFM 3 Core Advanced 的语音合成 MOS 得分为 4.15。目前尚无后续发展事实。
匹配字段摘要
2026年10月8日,Google发布本地优先的AI会议笔记应用Google AI Edge Foresight。据The Verge AI报道,该应用可在完全离线状态下转写会议和音频文件,免费使用,基于端侧EmbeddingGemma 2模型,目前运行于macOS,会在转写同时生成会议摘要,支持用户记录要点后由应用整理成完整笔记,并内置助手回答关于录音内容的问题,也能接入本地文件作为参考;Google称文件、会议音频和笔记都不会离开用户电脑,目前仅针对Apple Silicon的Mac优化。TechCrunch AI同日报道称,该应用对标Granola等AI笔记工具,使用7.4亿参数的端侧EmbeddingGemma 2模型跨应用捕捉会议内容,包括线下会议,采用分屏视图,一侧手写速记、一侧生成AI笔记,支持查看转录文本或与Gemma 4驱动的助手对话,还可上传PDF、Google Docs、Microsoft Office格式、纯文本、Markdown和网页书签构建知识库,在会议中实时回答相关问题。目前尚无后续发展事实。
匹配字段摘要
2026年10月6日,Google DeepMind发布开放权重多模态嵌入模型EmbeddingGemma 2,可将文本、图像、视频帧和音频映射到统一向量空间,参数量740M。据Google Developers Blog介绍,文本权重在Google Pixel 11 Pro上仅需约191MB活跃内存,完整多模态模型约567MB,无需训练数据或微调即可作为端侧决策引擎,实现毫秒级零样本意图路由;Google AI Edge Gallery新增Instant Media Search和Video Moments Finder演示,未来数周内该模型将通过ML Kit以服务形式登陆Android并支持NPU加速。据Google DeepMind介绍,该模型采用Apache 2.0许可,在MTEB Code上从68.76提升到78.68,支持8K token上下文窗口,权重已在Hugging Face和Kaggle开放下载。10月6日,Georgi Gerganov宣布llama.cpp对EmbeddingGemma 2提供Day-0支持;10月7日,Simon Willison表示赞赏其采用
匹配字段摘要
2026年10月3日,Perplexity开源了七项模型、推理工具与安全项目。据当时报道,其中包括多模态决策模型pplx-decider-v1-27b,在11项基准上平均85.7%,领先Jev;上下文嵌入向量模型pplx-embed-v2-context-9b-preview,在ConTEB和turbopuffer context-bench上表现最佳;面向Apple silicon的本地推理引擎Lily,用Rust加自定义metal kernel实现,在M5 Max上prefill比MLX-LM快1.23倍、decode快1.35倍;以及0.6B端侧PII分类器PII-Tracer及配套PII-TRACE基准、面向深度研究智能体的WANDR基准、笔记本与工作站智能体检测响应工具Numbat、只读供应链扫描器Bumblebee。2026年10月7日,Perplexity宣布其决策模型在Hugging Face Decision Index上登顶,并称该模型为开放权重。
匹配字段摘要
2026年10月6日,Google Research 公布一项研究,验证端侧AI通过盲扫超声判断胎龄和胎位。该研究由 Google 与 Northwestern、Jacaranda Health 合作,在肯尼亚内罗毕和芝加哥各招募1000名孕妇,让未经超声训练的医护按预设路径进行盲扫超声,再由机器学习模型分析视频,判断孕周和胎位,准确率与专业超声技师相当。操作者只需8小时培训,模型处理全部在设备端完成,无需电力或Wi-Fi即可给出结果。目前尚无后续发展事实。
匹配字段摘要
MiniCPM5-2B 通过 WebGPU 在浏览器内运行完整编码 Agent。面壁智能 OpenBMB 于 2026 年 9 月 28 日发布相关消息,称一个 2B 模型在 WebGPU 上于浏览器内运行完整编码智能体,正是其想要的端侧故事,并称这是基于 MiniCPM5-2B 的出色构建。目前该事件仅有这一条代表性证据,暂无后续发展事实。
匹配字段摘要
Apple 推出 由五款端侧及云端模型组成的第三代 Apple Foundation Models
English translation is being prepared.
匹配字段摘要
Liquid AI 发布 开放权重端侧多模态决策模型d1-3B与d1-omni-600M
English translation is being prepared.
匹配字段摘要
Google Research 研究验证 端侧AI通过盲扫超声判断胎龄和胎位
English translation is being prepared.
匹配字段摘要