Google Cloud 下月向所有客户开放基于 Vera Rubin 的 A5X 实例
Google Cloud will open its Vera Rubin-based A5X instances to all customers next month.
AI 导读
Google Cloud 将于下月向所有客户开放基于 Vera Rubin 的 A5X 实例。伦敦广告集团 WPP 的早期测试显示,此前需要多台服务器集群运行的 AI 智能体负载,在单台 A5X 实例上即可运行。机架外部通过 ConnectX-9 网卡和 Google 的 Virgo 网络互联,可跨多个站点扩展到 960K Rubin GPU;该设计面向强化学习,更快的 CPU 到 GPU 及 GPU 到 GPU 链路可缩短每轮训练时间。
推荐理由
AI 评分 70
原文给出 A5X 实例的开放时间与 WPP 早期测试结果,可了解云厂商面向强化学习负载的硬件设计取向。
主题
正文 · AI 翻译
Google Cloud将于下月向所有客户开放其基于Vera Rubin的A5X实例。
在伦敦广告集团WPP的早期测试中,此前需要由多台服务器组成的集群来运行的AI智能体工作负载,如今在单台A5X实例上即可运行。
在每个机架外部,ConnectX-9网卡和Google的Virgo网络将各机架连接起来,使Google Cloud能够跨多个站点将该部署扩展至96万个Rubin GPU。
该设计面向强化学习,在强化学习中模型会反复生成经验、对结果评分并重新训练,因此更快的CPU到GPU以及GPU到GPU链路可缩短每一轮的时间。