Oracle 云基础设施将提供 Google TPU，计划 2027 年上线

Oracle 与 Google 于 2026 年 10 月 27 日在拉斯维加斯举行的 Oracle AI World 上宣布，Google 的张量处理单元（TPU）将通过 Oracle Cloud Infrastructure（OCI）提供。Oracle 的公告称，OCI 是 Google 之外首个提供 Google TPU 的超大规模云平台，计划在 2027 日历年内上线。

Oracle 的基础设施角色

OCI 将提供电力、散热和数据中心网络，以在 Oracle 的基础设施内大规模部署 Google TPU。Oracle 和 Google 表示，这些 TPU 可支持大模型训练和后训练，包括稠密模型和混合专家（MoE）模型，以及面向推理、智能体和长上下文应用的生产推理。客户将能够在 OCI 内选择针对其工作负载、性能需求和成本目标优化的 Google TPU。

“不同的 AI 工作负载有不同的计算需求，”Oracle Cloud Infrastructure 总裁 Mahesh Thiagarajan 表示。“将 Google TPU 引入 OCI，使客户能够在一个云中访问多种领先的 AI 计算架构。”

Google 高级副总裁兼 AI 与基础设施首席技术官 Amin Vahdat 表示，下一代 AI 将需要多样化的计算。他说，将 Google TPU 引入 OCI 将使更多组织能够使用这项技术，并在构建和运行其最复杂的 AI 应用时拥有更大的灵活性。

两家公司将 Google TPU 描述为与开放软件共同设计的定制加速器，可支持完整的 AI 生命周期，从前沿训练和大规模推理，到智能体 AI 的多步推理需求。他们表示，TPU 产品组合依托十多年的定制 AI 芯片开发经验，并将该架构描述为旨在最大化每瓦电力的 AI 处理能力，同时实现对模型数据的快速访问和芯片间的快速通信。

第八代 TPU 硬件

Oracle 和 Google 将第八代 TPU 描述为两种专用架构：用于训练的 TPU 8t 和用于推理的 TPU 8i，并表示 TPU 8t 每个 pod 的计算性能接近上一代的三倍，同时将前沿模型的开发周期从数月缩短至数周。TPU 8i 旨在处理众多专用智能体的迭代工作。

Google 在 2026 年 4 月 22 日发布的一篇技术深度解析中详细介绍了第八代设计。根据该文章，TPU 8t 采用 3D 环面网络拓扑，单个超级 pod 的规模达 9,600 颗芯片，并新增了 SparseCore——一种专用加速器，用于处理嵌入查找的不规则内存访问模式，而矩阵乘法单元则负责矩阵运算。该芯片引入了原生 4 位浮点（FP4）处理，Google 称这使矩阵乘法单元的吞吐量翻倍，并且其芯片间互连的扩展带宽是上一代的两倍。

在网络和存储方面，Google 表示其 Virgo Network 是一种基于高基数交换机构建的横向扩展网络结构，可为 TPU 8t 训练提供高达 4 倍的数据中心网络带宽提升。新的 TPUDirect RDMA 和 TPUDirect Storage 功能可在 TPU 内存、网络接口卡和托管存储之间移动数据，同时绕过主机 CPU，Google 称这比在第七代 Ironwood TPU 上训练时的存储访问速度快 10 倍。

Google 表示，针对后训练和高并发推理优化的 TPU 8i 片上 SRAM 是上一代的三倍，使更大的 KV 缓存能够在长上下文解码期间完全驻留在芯片上。集合通信加速引擎将集合操作的片上延迟降低 5 倍，而一种名为 Boardfly 的面向服务的拓扑通过全连接板和组连接多达 1,152 颗芯片，pod 可扩展至由光电路交换机连接的 36 个组。对于 1,024 颗芯片的 pod，Google 表示 Boardfly 将网络直径从可比 3D 环面网络的 16 跳减少到 7 跳，为通信密集型工作负载带来高达 50% 的延迟改善。

Google 公布的规格显示，TPU 8t 配备 216 GB 高带宽内存（HBM）、128 MB 片上 SRAM、12.6 峰值 FP4 petaflops 和 6,528 GB/s 内存带宽；TPU 8i 则配备 288 GB HBM、384 MB SRAM、10.1 峰值 FP4 petaflops 和 8,601 GB/s 带宽。两套系统均集成基于 Arm 的 Axion CPU 头节点，Google 称这消除了数据准备延迟造成的主机瓶颈。

Google 声称，在大规模训练方面，TPU 8t 的每美元性能比 Ironwood 提升高达 2.7 倍；在大型 MoE 模型的低延迟目标下，TPU 8i 的每美元性能提升高达 80%，两款芯片的每瓦性能均提升高达 2 倍。该公司还表示，借助其 JAX 框架和 Pathways 软件，它可以将分布式训练扩展到单个集群中超过 100 万颗 TPU 芯片，并且 Virgo Network 可以连接超过 134,000 颗 TPU 8t 芯片，提供高达每秒 47 petabits 的无阻塞对分带宽。

当前产品阵容与可用性

Google Cloud 的 TPU 产品页面将 TPU 8t 和 TPU 8i 均列为即将推出。第七代 Ironwood TPU 每个 pod 采用 9,216 颗液冷芯片，额定性能为 42.5 exaflops，与第六代 Trillium 一同被列为正式可用。Google 将 TPU 描述为定制设计的专用集成电路，为其 Gemini 模型以及包括搜索、照片和地图在内的旗舰产品提供支持，并原生支持 PyTorch 和 JAX 软件以及用于推理的 vLLM 引擎。

两家公司表示，OCI 上的 Google TPU 将于 2027 日历年内提供，并在多年内逐步扩大规模以满足客户需求。