←新闻详情

The New Stack更新于 10月25日 21:15

Nvidia 推出 DSX POD 集装箱式 AI 工厂参考设计

Nvidia wants AI factories built in real factories

AI 导读

Nvidia 在 GTC Berlin 发布 DSX POD 参考设计,让合作伙伴在工厂内把 Vera Rubin 机架、网络和液冷装进集装箱后再交付。每个集装箱装 7 个 Vera Rubin NVL72 机架、共 504 块 Rubin GPU,预装约 20 公里铜缆和 17 公里横向扩展网络,重约 28 吨;只要站点已有供电、制冷和网络条件,最快 14 天即可开始产出 token。Nvidia 称该系统制冷不用水,Vera Rubin 可用 45 摄氏度冷却液运行,2 吉瓦部署下干冷器相比冷却塔每天可省约 5400 万升水,合作伙伴将从 2027 年初开始全球交付。

推荐理由

AI 评分 55

原文给出了集装箱式 AI 数据中心的交付周期、单箱配置和散热方式,可据此判断 AI 工厂的部署形态变化。

主题

标签

正文 · AI 翻译

Nvidia希望新的AI算力在抵达数据中心时就已经完整建成。在周三于柏林举行的GTC大会上,该公司推出了DSX POD,这是一种集装箱参考设计,合作伙伴在集装箱出厂前将Vera Rubin机架、网络和液冷系统装入其中。

Nvidia表示,在传统数据中心内安装机架并完成布线可能需要数月时间。但只要站点已经具备必要的供电、制冷和网络连接(平心而论,这些往往也是瓶颈),DSX POD最快可在14天内准备好交付token。

这里的思路是让数据中心运营商更快实现价值,因为正如Nvidia创始人兼CEO黄仁勋在一份声明中所说:“AI工厂在开始产出token时就在创造价值——而不是在建设完工时。”

箱子里有什么

每个集装箱可容纳七个Vera Rubin NVL72机架,即504块Rubin GPU。Nvidia超大规模与高性能计算副总裁Ian Buck在发布前的新闻发布会上表示,单个单元集成了约1000万个组件,重约28公吨。

这些集装箱还预装并测试了约20公里的铜缆和17公里的横向扩展网络。Buck说,集装箱运抵后,工作人员将其就位,与相邻单元连接,并运行最终的烤机测试。

用水情况

Buck还指出,Nvidia在设计该系统时使其制冷不用水。Nvidia表示,Vera Rubin可使用温度高达45摄氏度的冷却液运行,因此干冷器——其工作原理与汽车散热器大致相同——可以替代当今许多数据中心仍作为标准的蒸发冷却塔来完成制冷工作。

在另一份关于DSX的公告中,Nvidia解释说,某些气候条件下的运营商在最热的日子里可能仍需要冷水机组。对于2吉瓦的部署,该公司估计,与冷却塔相比,干冷每天可节省约5400万升水。

集装箱式数据中心

这种“服务器装进集装箱”的做法可能让人有些似曾相识,的确,科技公司确实热衷于使用集装箱,尽管有时这更像是一种公关噱头,而非对真实问题的解决方案。

例如,早在2006年,Sun Microsystems就推出了Project Blackbox,这是一个装在20英尺集装箱里的数据中心。十年后,时任AWS CEO的Andy Jassy在re:Invent 2016主题演讲的结尾,让一辆18轮卡车将Snowmobile——一个可运输100 PB数据的45英尺集装箱——开上了舞台。

此后,微软和AWS都为灾区和军事任务建造了集装箱式数据中心。

然而,所有这些都与Nvidia在这里所做的不同。DSX POD本质上是可插入数据中心的预制部件。Buck将其描述为新建AI工厂的构建模块。

Armada已经在销售集装箱式边缘数据中心,它是建造这些系统的17家合作伙伴之一,其他合作伙伴还包括Bull、Dell、HPE、Schneider Electric和Vertiv。

Nvidia表示,合作伙伴将从2027年初开始在全球交付DSX POD系统。

文章《Nvidia希望AI工厂在真正的工厂里建造》首发于The New Stack。

来源

The New Stack