←News detail

36Kr · AIUpdated Oct 25 00:30

NVIDIA Releases DSX POD Containerized Compute Cluster, Tokens Can Be Produced in 14 Days

English text is being prepared.

AI summary

NVIDIA has released the DSX POD modular container product line, which fully integrates the Vera Rubin computing system, networking, power supply, and liquid cooling at the factory, compressing the on-site deployment cycle from the traditional 6 months to as short as 14 days. The accompanying DSX MaxLPS saves up to 30% power under a fixed power budget, and the Nscale Iceland AI factory measured a 49% increase in inference throughput; DSX Flex can reduce cluster power consumption by 40% during grid emergencies. The SimReady Central digital model library is now available on Hugging Face, developer previews of the three major DSX OS components have been released, and partners are expected to deliver globally in early 2027.

Why read this

AI score 67

The original text provides the delivery cycle of the containerized compute cluster along with measured figures for power and water savings, which can be used to gauge changes in the pace of AI factory construction.

Topics

Tags

Body

好了好了这下坏了,黄仁勋接住梁文锋的招了。

昨天,DeepSeek开源推理框架,教你如何用算力集群做到单卡每小时收入38美金。

今天,英伟达直接把算力集群搞成了预制菜,从0到开始平地起数据中心到开始产token只需14天。

按这个账算,如果是万卡集群,14天上线后,满负荷、客户全满的理想状态下,每小时收入可以到38万美金(当然,前提是能拿到这么多稳定订单)。

这一次,英伟达不满足于只卖芯片和机柜,而是直接把整座“Vera Rubin AI工厂”塞进了模块化的集装箱里。

过去,建一座超算中心需要漫长的土木施工、现场布线和调试。

老黄在现场直接甩出一句狠话,彻底改写了数据中心的经济学:

一座AI工厂只有在开始产出Token时才创造价值,而不是在建筑施工完成时。

一个不经意,老黄带领大家跳过“买的越多省的越多”,直接快进到“买的越多赚的越多”。

有种AI Infra黄金时代的错觉

把AI工厂塞进集装箱,14天交付满血算力

怎么让客户最快赚到AI的钱?答案是缩短“首Token产出时间”(Time to First Token)。

全新发布的DSX POD硬件产品线,完全围绕这一核心逻辑展开。

现在,英伟达直接把包含最新Vera Rubin系统在内的全套基础设施,做成了可重复量产的“集装箱”设计。

计算、网络、布线、供电以及液冷系统,全部在合作伙伴的制造工厂里就完成了集成、跨机架走线、管道连接和功能验证。

第一步,将最新的NVIDIA Vera Rubin计算系统,与高速网络、机架级供电和液冷散热系统打包。

原先的Grace Blackwell方案组装一个节点就要2小时,布线繁杂,而且液冷覆盖率仅80%。

换成Vera Rubin之后,采用无线缆架构、100%全液冷,单个节点组装缩短到仅需5分钟,同时可靠性和性能都得到提升。

第二步,在出厂前,把它们完整集成进专门定制的模块化集装箱(Modular Containers)里。

连机架与机架之间的跨柜布线、电力接线、液冷管道铺设,甚至全套系统的功能验证……

统统在制造工厂里提!前!干!完!

与此同时,客户现场的场地准备工作可以完全并行推进,两边互不耽误。

集装箱装着一座验证完毕的“满血Vera Rubin算力工厂”抵达准备好的场地,开箱接通现场预留的电力、冷却和网络基础设施,就能瞬间点亮。

最终提升效果堪称碾压级——

现场部署周期从传统6个月,最短压缩至14天。

英伟达将Time to First Token(首Token产出时间)作为这项交付效率的衡量标准。

早一天跑起大模型训练和生产级推理,运营商就能早一天向客户交付算力、早一天开始印Token变现。

压榨每一兆瓦电力,推理吞吐暴涨49%

不仅极限压缩到2周就能交付,老黄还贴心地配套了方案来缓解缺水缺电的问题。

上述DSX POD硬件产品线背后依托的,是英伟达全栈式AI工厂参考架构NVIDIA DSX平台。

它将计算、网络、存储、软件、供电和散热各作为“单一系统”进行协同设计。

首先是电力与算力的极限压榨。

要建数据中心,“有多少电”决定了“能上多少卡”。

为了打破电力瓶颈,英伟达甩出了两款软件大杀器:DSX MaxLPS与DSX Flex。

先说前者。

DSX MaxLPS负责在AI工厂既定的电力预算内进行动态功率分配,产出完全相同数量的Token,最高可以直接省电30%。

反过来算,如果电力预算固定不变,省下来的电就能原地转化成多出来的算力。

实测数据直接拉满:

在云厂商Lambda基于NVIDIA HGX B200系统的概念验证中,固定功率预算下,集群Token吞吐量直接提升24%,可容纳的GPU算力容量增加19%。

在欧洲云厂商Nscale冰岛AI工厂的实测中,跨4个NVIDIA GB300 NVL72机柜、在相同的264千瓦供电预算下,推理吞吐量更是暴涨49%,受管GPU算力容量直接多出37%。

花同样的电费,硬生生多跑出近一半的推理算力。

而软件两大杀器中的第二个——DSX Flex——则更进一步,让原本是“电老虎”的AI工厂,摇身一变成了电网的“柔性调节器”。

在英国国家电网、Nebius、Emerald AI与英伟达的联合测试中,面对模拟电网突发事件,Blackwell Ultra GPU集群在不中断关键业务的前提下,瞬间将集群功耗狂降40%。

其次是散热革新。

传统数据中心靠冷却塔蒸发水来降温,耗水量惊人。

而Vera Rubin基础设施支持高达45°C冷却液温度的100%全液冷。

DSX参考设计直接将闭环液冷与室外干冷器(类似巨型汽车散热片)结合,冷却液在封闭管路内循环吸热,再由干冷器将热量直接排入空气,全程不蒸发水,将设施冷却耗水降至接近于零(减幅达100%)。

在一座2吉瓦(2GW)规模的AI工厂里,相比传统冷却塔,DSX每天能省下5400万升水。

这相当于18万户家庭一整天的用水量。

上Hugging Face“云盖楼”,开源OS全自动托管

为了把建厂效率推向极致,英伟达甚至把“基建模拟器”搬上了开源社区。

全新推出的物理设备数字模型库NVIDIA SimReady Central,今天正式登陆Hugging Face。

里面直接打包了维谛(Vertiv)等合作伙伴经过验证的供电与散热设备3D数字资产。

配合DSX Sim仿真工具,工程师无需在实体场地动手施工,便可搭建AI工厂的数字孪生。

从这也能看出来,为什么英伟达要收购Hugging Face了。

供电和散热情况,还有西门子正在测试的声学噪音等,全都可以提前模拟验证。

硬件落地后,软件无缝接管。

英伟达宣布扩展开源的DSX OS基础设施管理软件组合,一口气放出三大开发者预览版组件:

- NVIDIA Config Manager

- NVIDIA Rack Management Service

提供机架级的电源、资产盘点、固件与交换机统一管理

- NVIDIA Cluster Readiness Engine

在正式生产任务到达前,自动运行分布式负载来验证GPU集群,提前揪出故障并精准隔离到具体节点

配合底层控制器与运行环境,从虚拟设计、集装箱出厂,到自动压测上线,英伟达彻底把造超算变成了一条全自动流水线。

晒出地表最强“基建朋友圈”

老黄现场再次晒出横跨计算、能源与工业软件的“最强基建朋友圈”。

负责把DSX POD集装箱造出来并推向全球的合作伙伴,阵容极其豪华:

戴尔(Dell)、HPE、联想、富士康(鸿佰科技)、技嘉、和硕、广达(云达)、纬创,以及Anduril、Armada、Bull、Crusoe、DayOne、台达、伊顿巨头悉数在列。

预计明年(2027年)初,这些预制好的模块化AI工厂就将在全球范围内正式交付。

在全球云生态中,CoreWeave、Google Cloud、Lambda、Nebius、Nscale、Crusoe、G42、IREN等AI云厂商已全面拥抱DSX软件栈。

更上游的工业与能源巨头也全部进场:

施耐德电气与AVEVA忙着做Vera Rubin的全生命周期数字孪生;达索系统与维谛联合仿真OneCore基础设施;ABB正基于DSX Sim开发SimReady数字资产,并通过新发布的Infinitus直流产品组合推进800V高压直流(800 VDC)架构研发;日立能源、西门子能源与GE Vernova则直接下场,帮英伟达搞定从电网规划到储能系统的深度协同。

One More Thing

把时间拨回2024年的GTC大会。

那时候,很多人还以为“AI工厂”只是一个商业包装概念,把数据当原料,把Token当产成品。

仅仅两年半过去,老黄把这个比喻变成了字面意义上的物理现实。

他不仅定义了芯片(Vera Rubin)、定义了机柜(NVL72),现在甚至连集装箱(DSX POD)、散热水管、电网调度、乃至西门子和施耐德的工业设计图,都一并纳入了“英伟达标准”之下。

以前科技巨头买算力,是向英伟达买显卡,自己回去攒机;后来行业采购形式“进化”成买整机柜。

到今天,算力采购已经如同选购预制菜,客户可以批量采购封装在集装箱内的AI发电厂,对接配套设施之后仅需14天就能产出Token。

如你所见,英伟达的边界早已超越一块小小的的芯片和单台服务器。

至少在这一轮全球性的算力基建浪潮当中,黄仁勋就是那个掌握整套顶层方案,站在船头用望远镜眺望的人。

视频回放:

本文来自微信公众号“量子位”,作者:梦晨,36氪经授权发布。

Source

36Kr · AI