←新闻详情

TechSpot更新于 10月25日 20:47

亚马逊囤积英伟达 GB300 服务器却无电可用,暴露 AI 基建的电力瓶颈

"Dark GPUs" at Amazon show the limits of the AI buildout: chips are easy to buy, power is not

AI 导读

据 Business Insider 看到的内部邮件,亚马逊每月接收价值数十亿美元的英伟达服务器机架,仅 8 月 AWS 就预计接收约 50 亿美元的 GB300 机架,此后每月再增约 30 亿美元,但部分美国 AWS 站点电力不足,这些硬件只能暂存于中转仓库。这种被称为 dark GPUs 的现象正给数据中心带来财务压力,亚马逊第二季度自由现金流自 2023 年以来首次转负,今年资本支出预计约 2200 亿美元。

正文 · AI 翻译

暗黑AI云:与其他任何愿意牺牲一切、把AI变成颠覆性机遇的超大规模云厂商一样,亚马逊在财务和硬件两方面都在采取一些大胆的举动。一份新报告称,该公司购买的GPU数量超过了它有电力运行的数量。

据称,亚马逊每月接收价值数十亿美元的英伟达机架,尽管有些站点尚未准备好接收这些设备,也还没有电力来驱动这些AI加速器。根据Business Insider看到的内部邮件,只要能尽早锁定新的硬件产能,亚马逊愿意预先占用数十亿美元现金。

这些邮件描述了亚马逊的“提前接收机架”(Early Rack Receipt)流程。通过该流程,AWS仅8月就预计接收价值约50亿美元的英伟达GB300服务器机架,并且在可预见的未来每月还将再接收约30亿美元。亚马逊在最终部署阶段之前就拿到了“为AI推理时代打造”的服务器。

美国部分AWS设施没有足够的电力来安装并启动这些服务器,这意味着这些昂贵的硬件只能存放在“中转”仓库中,直到最终的数据中心站点建成。在邮件中,亚马逊的一个团队抱怨称,对于每月采购的所有GPU究竟何时能够真正安装,并没有明确的预测。

亚马逊缺乏能源容量,是被称为“暗黑GPU”的日益普遍现象的一部分。数据中心和云巨头正在尽可能多地囤积硬件,但其中大部分实际上只是在货架上积灰,而IT行业的其他企业只能分到残羹剩饭。

暗黑GPU问题也在给数据中心项目带来财务压力。亚马逊的滚动自由现金流在第二季度自2023年以来首次转为负值,并且该公司预计这种情况还会持续一段时间,今年的资本支出预计将达到约2200亿美元。

亚马逊在构建新的AI能力和数据中心容量方面的支出超过任何其他超大规模云厂商,并且为此改变了其惯常的商业做法。在AI热潮之前,AWS只有在机架完成并交付到数据中心后才取得其所有权。如今,杰夫·贝索斯创立的这家公司愿意在供应链更早的阶段预付数十亿美元,以锁定更多AI机架。

亚马逊的一位发言人为此做法辩护,称将成品机架存放在仓库中的做法是“最佳商业实践”。该公司预计,这一大规模AI基础设施建设最终将带来可观的财务回报,因为AI是任何IT公司都承受不起错过的千载难逢的机遇。亚马逊CEO安迪·贾西表示,AWS此前也经历过类似的情况。

来源

TechSpot