←新闻详情

Rohan Paul更新于 10月25日 23:48

Google Cloud 下月向所有客户开放基于 Vera Rubin 的 A5X 实例

Google Cloud will open its Vera Rubin-based A5X instances to all customers next month.

AI 导读

Google Cloud 将于下月向所有客户开放基于 Vera Rubin 的 A5X 实例。伦敦广告集团 WPP 的早期测试显示,此前需要多台服务器集群运行的 AI 智能体负载,在单台 A5X 实例上即可运行。机架外部通过 ConnectX-9 网卡和 Google 的 Virgo 网络互联,可跨多个站点扩展到 960K Rubin GPU;该设计面向强化学习,更快的 CPU 到 GPU 及 GPU 到 GPU 链路可缩短每轮训练时间。

推荐理由

AI 评分 70

原文给出 A5X 实例的开放时间与 WPP 早期测试结果,可了解云厂商面向强化学习负载的硬件设计取向。

主题

标签

正文 · AI 翻译

Google Cloud将于下月向所有客户开放其基于Vera Rubin的A5X实例。

在伦敦广告集团WPP的早期测试中,此前需要由多台服务器组成的集群来运行的AI智能体工作负载,如今在单台A5X实例上即可运行。

在每个机架外部,ConnectX-9网卡和Google的Virgo网络将各机架连接起来,使Google Cloud能够跨多个站点将该部署扩展至96万个Rubin GPU。

该设计面向强化学习,在强化学习中模型会反复生成经验、对结果评分并重新训练,因此更快的CPU到GPU以及GPU到GPU链路可缩短每一轮的时间。

来源

Rohan Paul