Google Cloud 将 Pathways Runtime 在 GKE 上正式可用

Google Cloud 于 2026 年 11 月 9 日宣布，Cloud Pathways 已在 Google Kubernetes Engine（GKE）上正式可用，为客户带来用于大规模训练和推理的单控制器运行时。Google 表示，在此前 90 天内，用户通过 GKE 上的 Pathways 处理了超过 1.3 亿 Cloud TPU 芯片小时。

该运行时也称为 Pathways on Cloud，是 Google Cloud AI Hypercomputer 的核心运行时支柱之一。它最初由 Google DeepMind 设计，用于训练和部署包括 Gemini 在内的 Google 前沿模型，专为大规模、异构加速器集群而打造。此次发布将 Google 用于其最大规模 AI 工作负载的技术扩展到了云客户。

跨 TPU 切片的单一控制器

该软件旨在解决默认多控制器 JAX 的协调开销问题。在默认设置中，每个 TPU 主机运行一个独立的 Python 解释器，只能看到其所连接设备的本地视图，而所有主机以锁步方式执行同一个单程序多数据程序。Google 表示，随着作业规模扩大，这会使异构多程序工作负载以及跨切片的资源管理变得复杂且脆弱。

Cloud Pathways 用基于开源 Interim Framework Runtime 构建的统一控制器取代了这一安排。通过设置 JAX_PLATFORMS=proxy 并配合 pathwaysutils，单个 JAX 客户端即可查看并编排跨越数千芯片的多个大型 TPU 切片，如同这些设备在本地连接一样。该控制器负责管理图求值、在 Cloud Storage 中进行持久化编译缓存，以及跨切片异步调度 XLA 工作。

支持共享内存的共置 Python sidecar 容器直接在 TPU 主机上运行分布式数据加载和检查点等计算密集型任务。弹性训练利用主机内存快照，在硬件中断后将作业重新分片到少一个切片上，而不会使客户端崩溃。交互模式支持笔记本和终端，而 Shared Pathways Service 允许多个用户和作业共享一个长期运行的 TPU 切片池。

生产使用与弹性恢复

Google Cloud 报告称，一家大型消费科技公司正在数万个 TPU v5p、Trillium v6e 和 Ironwood TPU7x 芯片上运行生产批处理和强化学习推理。该部署每季度消耗超过 1 亿芯片小时，该客户在扩展至预训练的过程中与 Google 共同设计了弹性原语。

ZenteiQ 正在将同一技术栈应用于科学基础模型。它使用 GKE 上的 Cloud Pathways，配合 Cluster Toolkit、共置 sidecar 和主机快照，在多切片 Trillium 集群上实现弹性 MaxText 预训练，以及使用 MaxText 和 Tunix 的单控制器强化学习。

创始人 Sashikumaar Ganesan 表示，该控制器会监控 TPU 拓扑，并在芯片或切片离线时动态重新组网和调整工作负载规模。他说：“在生产环境中将 Pathways 与主机快照相结合，可在发生中断时将恢复时间降至最低，使我们的可用 TPU 容量得到充分利用，几乎不会出现停滞时间。”

GKE 可用性与 Slurm 预览

Cloud Pathways 已在所有支持 Cloud TPU v5e、TPU v5p、Trillium TPU v6e 和 Ironwood TPU 7x 的 Google Cloud 区域中于 GKE 上正式可用。Google 提供支持 JAX 0.10.1 及更高版本的版本化容器镜像。

与 Cluster Director 的另一项集成将 Cloud Pathways 扩展到 Slurm TPU 集群，支持统一的多切片 JAX 执行、弹性训练和交互式笔记本。该集成处于 Preview 阶段，与 GKE 运行时的正式可用状态不同。

对于在高成本加速器上运行多日作业的运维人员而言，此次发布将编排直接与利用率挂钩：一个控制器协调 TPU 切片，而基于快照的恢复机制旨在在单个切片发生故障时保持客户端作业存活。