先了解这件事
AI 综述
Google于2026年10月20日发布适配Google Cloud TPU的TorchTitan分支。据Google Developers Blog介绍,Google将TorchTPU集成进Meta的TorchTitan,Cloud TPU现可通过原生后端torch.device("tpu")直接训练PyTorch模型,无需重写为JAX。该TPU分支提供Llama 3 70B/405B、Qwen 3 8B/32B/235B MoE和FLUX.1 12B等预训练配方,并用Splash Attention等Pallas内核替换标准实现。在FLUX上,SimpleFSDP让TorchTitan达到与JAX MaxDiffusion 99%的性能持平。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：Google Developers Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月20日
Google Developers Blog一手
Google 将 TorchTPU 集成进 TorchTitan，为 TPU 优化模型训练
Google 将 TorchTPU 集成进 Meta 的 TorchTitan，Cloud TPU 现可通过原生后端 torch.device("tpu") 直接训练 PyTorch 模型，无需重写为 JAX。TorchTitan TPU 分支提供 Llama 3 70B/405B、Qwen 3 8B/32B/235B MoE 和 FLUX.1 12B 等预训练配方，并用 Splash Attention 等 Pallas 内核替换标准实现。在 FLUX 上，SimpleFSDP 让 TorchTitan 达到与 JAX MaxDiffusion 99% 的性能持平。