先了解这件事
Google与Meta在PyTorch Conference North America 2026上开源TorchTPU,这是面向Google TPU的原生PyTorch后端,取代2020年的PyTorch/XLA。据InfoQ AI报道,模型迁移只需把model.to("cuda")改为model.to("tpu")。官方同时开源TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU和TorchTitan四个仓库,Hugging Face模型可直接运行,vLLM与SGLang推理引擎原生支持。Google公布的结果包括在8192块TPU v7x上运行Qwen3 235B MoE模型、达到28%模型FLOPs利用率;公告也说明一行改动只能让模型跑起来,要达到峰值性能仍需调整形状、分片和算子。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:InfoQ AI
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月26日
InfoQ AI精选
Google 与 Meta 在 PyTorch Conference 2026 开源 TorchTPU
Google 和 Meta 在 PyTorch Conference North America 2026 上开源 TorchTPU,这是面向 Google TPU 的原生 PyTorch 后端,取代 2020 年的 PyTorch/XLA,模型迁移只需把 model.to("cuda") 改为 model.to("tpu")。官方同时开源 TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan 四个仓库,Hugging Face 模型可直接运行,vLLM 与 SGLang 推理引擎原生支持。Google 公布的结果包括在 8192 块 TPU v7x 上运行 Qwen3 235B MoE 模型、达到 28% 模型 FLOPs 利用率,但公告也说明一行改动只能让模型跑起来,要达到峰值性能仍需调整形状、分片和算子。
AI 热点