先了解这件事
AI 综述
2026年10月19日,Google发布LiteRT Tensor API,允许开发者在C++中逐算子构建端侧模型计算图。据Google Developers Blog介绍,同一份代码可经LiteRT运行在CPU、GPU(ML Drift)和NPU上,也可不经模型文件直接通过XNNPACK在CPU运行。官方用该API手写SAM 2并部署到浏览器WebGPU,称在MacBook Pro上比Apple MLX快约1.5倍,输出掩码与Meta PyTorch参考逐像素一致。该API还支持从.safetensors直接加载权重,并让预处理、推理与后处理通过共享加速器缓冲区串联,避免数据回传CPU。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Google 发布 LiteRT Tensor API，支持用 C++ 手写端侧模型图事件进展
1 个已确认进展
- 来源：Google Developers Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月19日
Google Developers Blog一手
Google 发布 LiteRT Tensor API，支持用 C++ 手写端侧模型图
Google 发布 LiteRT Tensor API，让开发者在 C++ 中逐算子构建计算图，同一份代码可经 LiteRT 跑在 CPU、GPU（ML Drift）和 NPU 上，或不经模型文件直接通过 XNNPACK 在 CPU 运行。官方用该 API 手写 SAM 2 并部署到浏览器 WebGPU，在 MacBook Pro 上比 Apple MLX 快约 1.5 倍，输出掩码与 Meta PyTorch 参考逐像素一致。该 API 还支持从 .safetensors 直接加载权重，并让预处理、推理与后处理通过共享加速器缓冲区串联，避免数据回传 CPU。