←News detail

36Kr · AIUpdated Nov 1 20:22

Breaking down AI infrastructure from first principles: the multiple constraints of power, cooling, packaging, and capital

English text is being prepared.

AI summary

Machine Heart breaks down AI infrastructure from first principles, pointing out that the real bottleneck is not just power, but a chain composed of power generation, power grids, transformers, cooling, storage packaging, and capital, and that the construction speeds of these links differ enormously. Citing IEA data, the article states that in 2025 global data center electricity consumption grew 17%, of which AI data center electricity consumption surged 50%, while total global electricity consumption grew only 3%; data center electricity consumption is expected to double from 485 TWh in 2025 to 950 TWh in 2030. The author argues that AI competition has evolved from a contest of models and chips into a systems engineering contest spanning energy, manufacturing, finance, and social governance, in which the slowest link determines the ceiling on expansion.

Why read this

AI score 69

The article links power, cooling, packaging, capital, and social license into a single chain, explaining why the bottlenecks to AI expansion keep shifting.

Topics

Tags

Body

一个冰箱大小的服务器机柜,重量超过一辆皮卡;到 2027 年,它的峰值功率将相当于 65 户家庭同时用电;为了不让它烧掉,每个机柜需要排出的热量相当于 30 台燃气锅炉。

这个看似科幻的论述其实是国际能源署(IEA)在 2026 年 4 月的报告里对下一代 AI 数据中心的描述。这份报告给出了另一组数字:2025 年,五家科技巨头的资本开支超过 4000 亿美元,2026 年还要再涨 75%,这笔钱已经超过全球油气开采的年度投资总额。

过去两年,「算力的尽头是电力」几乎成了行业共识。这句话没错,但只说对了一半。电当然是必要条件,可真正卡住 AI 扩张的,往往不只是「有没有电」,更是一整条由发电、电网、变压器、散热、存储、封装和资本串起来的链条,以及链条上每一环截然不同的建设速度。

要看清这条链,最好的办法是暂时放下「GPU 军备竞赛」「电力焦虑」这些现成叙事,回到最基本的物理事实,从头算一遍账。

智能是怎么被「烧」出来的?

如果剥掉所有商业包装,从物理层面看,AI 做的事情其实就是:把电能送进晶体管,驱动比特翻转,完成矩阵乘法,最终吐出 Token。

照此拆解,一个国家或一家公司能产出的「有效智能」,可以粗略写成四个因子的乘积:

可用电力×硬件能效(每焦耳能完成多少次运算)×算法效率(每次运算能换来多少有用的 Token)×利用率(机器实际在干活的时间占比)

这个公式不精确,但它的好处是,每一个因子都对应着一层具体的基础设施。电力对应发电厂和电网,硬件能效对应芯片、内存、封装与互联,算法效率对应模型架构和推理软件,利用率则对应调度系统、散热和供电的可靠性。

任何一个因子掉链子,另外三个做得再好也会被拖累。正因为此,AI 基础设施的瓶颈会不断「迁移」:前两年是 GPU 买不到,后来是先进封装和高带宽内存排不上产能,如今轮到变压器、燃气轮机和并网排队。

首先,来看两个物理事实。

第一条是能量守恒。数据中心吃进去的电,除了极少部分变成光信号和机械振动,几乎全部最终变成热。这意味着「供电」和「散热」本质上是同一个问题的两面:你往机柜里送进多少千瓦,就必须从机柜里搬走多少千瓦的热。后文会看到,机柜功率密度的飙升正在同时压垮传统的配电和风冷体系。

第二条是「搬数据比算数据贵」。芯片设计领域有一组经典测算:在 45nm 工艺下,一次 32 位浮点加法大约消耗 0.9 皮焦,而从片外 DRAM 读取同样长度的数据要消耗数百皮焦,差距达两到三个数量级。

工艺进步之后绝对数值变了,但这个量级关系没有根本改变。换句话说,现代 AI 芯片的能耗大头往往不在「算」,而在「搬」。从高带宽内存(HBM)、CoWoS 先进封装,到 NVLink 高速互联、共封装光学和「超节点」,过去几年几乎所有硬件创新的底层逻辑都是同一件事:缩短数据要走的距离。

那么物理极限在哪里?按照朗道尔原理,室温下擦除一个比特的最小能耗约为 3×10⁻²¹ 焦耳。以英伟达 Rubin GPU 为例,单封装约 50 PFLOPS 的 FP4 推理算力、约 2 千瓦级功耗,粗略折算每次 FP4 运算在几十飞焦量级。即便把一次运算拆成上百次比特操作,今天的芯片离理论下限仍有多个数量级的空间 (粗略估算,仅作量级参考)。

香港天風國際證券分析師郭明錤的推文

所以,AI 的能耗问题不是「撞上了物理墙」,而是工程、供应链和制度的问题。这个判断很重要,因为它决定了我们该往哪里看,毕竟真正的约束在工厂排期表、电网规划和地方议会的会议记录里。

需求:效率每年提升十倍,为什么电反而越用越多?

先看账本的另一端:需求。

IEA 的最新测算显示,2025 年全球数据中心用电量增长 17%,其中以 AI 为主的数据中心用电暴增 50%,同期全球总用电量只增长了 3%。按照其基准情景,数据中心用电将从 2025 年的 485 太瓦时翻倍至 2030 年的 950 太瓦时,约占全球用电的 3%;AI 专用数据中心的用电则在同一时期增长到原来的三倍。

效率在狂飙,总量却在狂涨,这是经典的杰文斯悖论。IEA 把其拆成三股同时加速的力量:效率提升、使用量激增,以及能力跃迁解锁的新用例。

视频生成、推理模型和智能体任务,单次请求的能耗可能是简单文本生成的数百到数千倍。当 AI 从「回答一个问题」变成「花半小时替你完成一件事」,每次交互的算力消耗就不再是一个量级。

训练端也在同步膨胀。研究机构 Epoch AI 统计,前沿模型的训练算力自 2020 年以来每年增长约 4 到 5 倍,扣除硬件能效提升和训练时长拉长的影响后,单次前沿训练所需的功率仍以每年约 2.2 倍的速度增长,目前最大规模的训练已超过 100 兆瓦;若趋势延续,到 2030 年单次训练可能需要 4 到 16 吉瓦。

Epoch 的另一项追踪显示,全球 AI 芯片存量的总算力以每年约 3.4 倍的速度增长。

中国的数据给出了推理侧的另一种注脚。国家数据局副局长余英在 2026 年 5 月披露,截至 3 月底,中国日均 Token 调用量已突破 140 万亿,较 2024 年底增长超过千倍;而在 2024 年初,这一数字只有约 1000 亿 。算力供给同步扩张,截至 2026 年 7 月底,全国智能算力总规模达 245 万 PFLOPS。

值得注意的是,3% 这个全球占比看起来并不吓人。真正的压力来自集中。IEA 在 2025 年的报告中测算,到 2030 年,美国数据中心将贡献全美用电增长的近一半,美国用于数据中心的电量将超过铝、钢铁、水泥、化工等所有高耗能产业之和。

电:当按季度迭代的需求,撞上按十年规划的电网

如果只问「全世界有没有足够的电」,答案是有的。问题在于速度。

AI 数据中心的建设周期正在急剧缩短。Epoch AI 的观察是,吉瓦级数据中心大约两年就能建成;IEA 的说法是两到三年。而电力系统的节奏完全不同:大型电力变压器的交付周期在美国已拉长到最长四年,燃气轮机的交货期超过三年,新建核电则以十年计。

AI 基础设施最深层的矛盾是三种时钟的错配:芯片按年迭代,数据中心按两年建成,电网按十年规划。IEA 报告称:AI 革命的速度与支撑它的物理、社会和经济系统的速度之间,反差正越来越大。

燃气轮机是这种错配最直观的样本。全球燃气轮机订单在 2025 年激增 70%。行业龙头 GE Vernova 在 2026 年第二季度财报中披露,其燃气设备的在手订单加产能预留已达 116 吉瓦,预计年底将至少达到 125 吉瓦;与此同时,它的年产能要到 2026 年第三季度才能爬升到 20 吉瓦,2028 年到 24 吉瓦,2030 年再向 30 吉瓦推进。

简单相除,现有积压大约相当于近六年的产量。当大型机组排到 2028 年以后,一些开发商已转向往复式内燃机组这类「次优解」。

变压器的故事更加微妙。它在数据中心总成本中占比很小,却可能决定整个项目能否按期通电。美国大型电力变压器的交付周期被普华永道分析师估计为最长四年;更上游,变压器铁芯所需的取向硅钢在美国只有克利夫兰-克里夫斯(Cleveland-Cliffs)一家本土生产商。一个为「负荷二十年基本不增长」而规模化的供应链,突然要服务一个每季度都在上调预期的客户。据彭博社报道,美国原定 2026 年投运的约 12 吉瓦数据中心容量中,只有约三分之一处于实际施工阶段。

面对并网排队,美国开发商的主流选择是「自带电源」。IEA 的卫星追踪显示,美国一批数据中心现场燃气发电项目中,约五分之一已开始清场或施工;到 2030 年,现场燃气可能为数据中心提供 15 到 27 吉瓦电力。但这条路并不便宜:AI 负载波动剧烈,要用现场燃气稳定供电,发电能力需要比实际需求超配 30% 到 70%。

核电是更长线的押注。微软与 Constellation 签下 20 年购电协议,重启三里岛 1 号机组(现更名为 Crane 清洁能源中心),最早 2027 年恢复发电;Meta 与 Constellation 签约,从 2027 年年中起采购 Clinton 核电站 1.1 吉瓦电力;亚马逊与 Talen 扩大协议,锁定最高 1.9 吉瓦核电。据第三方追踪,几大云厂商已签下约 9.8 吉瓦的核电相关协议。

但 IEA 提醒,首批小型模块化反应堆(SMR)要到 2030 年前后才有望投运。换句话说,核电解决的是 2030 年代的问题,不是今天的问题。

电力短缺最终会以价格的形式传导出来。美国最大的电力市场 PJM 覆盖 13 个州和华盛顿特区,其容量市场出清价格从 2024/25 交付年度的每兆瓦·日 28.92 美元,跳涨到 2026/27 年度的 329.17 美元。PJM 独立市场监测机构估算,2025 年 12 月那轮拍卖 164 亿美元的总成本中,约 40% 由数据中心负荷驱动。到 2026 年 7 月针对 2028/29 年度的拍卖,价格已连续第三次顶到上限。电,正在从一个工程问题变成一个民生和政治问题。

热与密度:机柜正在变成一座小型电站

回到第一节的物理事实:为了缩短数据搬运的距离,GPU 之间要尽可能挨在一起,组成更大的高速互联域。互联域越大,同一个机柜里塞进的芯片越多,功率密度就越高。这是一个几乎没有退路的物理逻辑。

来看数字,据行业梳理,Hopper 时代的机柜功率约 40 千瓦,Blackwell 时代升到 120 至 140 千瓦。天风国际分析师郭明錤的供应链调查显示,英伟达即将放量的 Vera Rubin NVL72 机柜提供两档功率配置,整柜功耗约 190 千瓦和 230 千瓦,均明显高于 GB300 NVL72 的约 140 千瓦;2027 年的 Rubin Ultra「Kyber」机柜则被普遍预期达到约 600 千瓦。IEA 的统计是,2020 至 2025 年间 AI 服务器的功率密度提高了 11 倍,到 2027 年还将再翻两番。

英伟达官方博客对 Vera Rubin NVL72 的描述,更像在介绍一台工业设备而不是一台电脑:整柜集成约 130 万个元件、近 1300 颗芯片,重约 4000 磅,大致相当于一辆皮卡。

密度的飙升正在同时击穿供电和散热两套体系。

在供电侧,郭明錤指出,当机柜功率逼近 200 千瓦,传统 54 伏配电在母排、线缆空间和转换效率上都会遇到硬约束,Vera Rubin NVL72 因此可能是 Oberon 机柜架构的最后一代。背后的物理原理很简单:传输功率等于电压乘以电流,而线路损耗与电流的平方成正比,提高电压就能用更细的铜走更多的电。这正是业界转向 800 伏高压直流配电的原因,IEA 也注意到,AI 数据中心正在借鉴电动车和新能源行业的技术走向高压直流。

在散热侧,几百千瓦的热量已远超风冷极限,全液冷正在从可选项变成默认项。

还有一个常被忽视的新问题:负载波动。IEA 发现,AI 数据中心的服务器负载会在一秒之内反复摆动超过额定容量的 50%。成千上万颗 GPU 在训练的计算阶段和通信阶段之间同步切换,对电网而言就像一个巨型开关在不停拨动。因此,储能正成为 AI 数据中心的标配,预计到 2030 年全球数据中心内部可能装有 20 到 25 吉瓦电池储能,如果激励得当,它们反而能成为电网的调节资源。

一个颇具象征意义的细节是,郭明錤披露 Vera Rubin 提供「Max Q」和「Max P」两档功率配置,以适应不同数据中心的电力条件。芯片规格开始向机房的电力现实妥协,这在过去是很少见的。数据中心正在从「装服务器的房子」变成一种电力电子设备,而芯片公司也不得不同时成为电力工程公司。

芯:瓶颈为什么从 GPU 挪到了内存和封装

原因仍然要回到「搬数据比算数据贵」。大模型推理,尤其是逐个生成 Token 的解码阶段,瓶颈通常在于能以多快的速度把模型权重和上下文缓存从内存里搬出来,这就是所谓的「内存墙」。

解法是把 DRAM 芯片垂直堆叠成 HBM,再用 CoWoS 这类先进封装把它和 GPU 放在同一块中介层上,把数据路径从厘米级缩短到毫米级。

这条技术路线的代价,是把整个存储产业拖入短缺。IEA 在 2026 年 4 月的报告中指出,HBM 短缺在此前半年间迅速形成,预计至少延续到 2027 年底。SK 海力士早在 2025 年 10 月就表示,其 2026 年全部产能已被订满;市场研究机构集邦咨询(TrendForce)在 2026 年初预计,一季度 DRAM 平均价格将环比上涨 50% 到 55%。由于同样的晶圆产能生产 HBM 能换来的比特数远少于普通内存,AI 对 HBM 的需求直接挤压了手机和 PC 的内存供给。IDC 的分析称,内存约占中端手机物料成本的 15% 到 20%,这场「战略性的晶圆再分配」正让消费电子行业多年来的规格下放趋势出现逆转。

先进封装是另一个卡点。据估算,台积电 CoWoS 月产能将在 2026 年底达到约 13 万片,2028 年有望翻倍至约 26 万片;而 2024 年底这一数字只有约 3.5 万片。

即便两年近四倍扩产,产能依然被订满。摩根士丹利估计英伟达占据了约六成 CoWoS 产能。郭明錤估算,仅 Rubin 一个平台在 2026 年就需要 30 万到 35 万片 CoWoS 晶圆。

从第一性原理看,这一转移是必然的。摩尔定律放缓之后,单颗芯片的晶体管密度提升越来越难,性能增长越来越多地来自「把更多的硅和内存塞进一个封装,再把更多封装连成一个互联域」。于是,制造瓶颈从光刻前道,转移到了存储堆叠和先进封装这些曾经的「后道工序」。下一步,台积电正在推进更大面积的面板级封装 CoPoS,而光互联正在从机柜之间走向芯片封装旁边。每一步,依然是在缩短距离。

钱:一年 7000 亿美元,谁在付账?

把电、热、芯串起来的,是资本。

多家机构的统计口径略有差异,但方向一致:亚马逊、Alphabet、微软、Meta 四家公司 2026 年的资本开支合计接近 7000 亿美元。IEA 的判断是,数据中心投资的体量已经大到公司资产负债表无法独立支撑,必须大量依赖资本市场融资;这意味着 AI 用电增长的节奏,将对市场情绪、投资回报预期和宏观融资环境高度敏感。

现金流的压力已经显现。CNBC 报道,Alphabet 2026 年上半年资本开支同比增长 111% 至 980 亿美元,第二季度自由现金流首次转负;分析师预计微软的自由现金流也将在第四季度转负。

一个更值得追问的问题是:纸面上的「吉瓦」到底有多少真正通了电?以 OpenAI 主导的「星际之门」(Stargate)计划为例,这项宣称投资 5000 亿美元、规划 10 吉瓦的工程,其旗舰站点位于得克萨斯州阿比林。Epoch AI 基于卫星图像的估算显示,截至 2026 年 3 月,阿比林站点已运行容量约 0.3 吉瓦,规划满载 1.2 吉瓦 。另有报道援引 OpenAI 首席财务官的说法,截至 2025 年底 OpenAI 全部站点和合作方的有效算力容量合计约 1.9 吉瓦。

「签约」「在建」「通电」是三种完全不同的状态,行业里的大多数宏大数字说的是第一种。混淆这三者,既会制造虚假的繁荣,也会制造虚假的崩盘叙事。

另一个细节折射出电力在成本结构中的地位变化。据报道,阿比林的开发商 Crusoe 的首席执行官曾表示,算上配套燃气电厂,其数据中心每吉瓦成本约 192 亿美元,是传统并网「电力外壳」每吉瓦 90 亿到 110 亿美元的两倍左右。如果这一数字属实,那么在自建电源的模式下,电力已不再是数据中心的配套成本,而是和芯片平起平坐的主要成本项。

社会许可:最慢的一个约束

在电、热、芯、钱之外,还有一个无法用工程手段直接解决的约束:当地社区愿不愿意。

追踪机构 Data Center Watch 统计,2026 年第一季度,美国至少 75 个数据中心项目因地方反对被阻止或推迟,涉及金额约 1300 亿美元,单季规模就与 2025 年全年相当;活跃的反对团体数量从 2025 年底的 396 个翻倍至 833 个,覆盖 49 个州。第二季度又有至少 45 个、价值约 680 亿美元的项目受阻,上半年合计接近 2000 亿美元。2026 年前六周,美国各州议会就提出了 300 多项与数据中心相关的法案,其中 14 个州出现全州暂停建设的提案。

居民反对的理由五花八门:电费上涨、用水、噪音、土地占用,以及越来越多「自带电源」项目带来的燃气电厂排放。IEA 的研究给出了一个相对平衡的视角:在电力供给过剩的系统中,稳定的新增负荷反而能摊薄电网固定成本、压低电价;但数据中心建设快、负荷不确定、并网容量常常报高,在供需偏紧的地区确实可能推高电价。

这个约束之所以最慢,是因为它无法用订单和资本加速。变压器可以扩产,燃气轮机可以加班生产,但信任只能一个社区一个社区地重建。从这个意义上说,数据中心能否从「电网负担」转变为「电网资源」,比如通过配套储能参与需求响应、承担电网升级成本,很可能决定下一轮扩张的上限。

极限外推:把数据中心送上太空?

如果把第一性原理推到极致,一个自然的问题是:既然约束来自电力、散热和土地,为什么不去一个太阳永不落山、没有邻居投诉的地方?

这正是轨道数据中心的逻辑。谷歌在 2025 年 11 月公布了「Suncatcher」计划,设想在晨昏太阳同步轨道部署搭载 TPU 的卫星,谷歌称在合适的轨道上,太阳能电池板的发电效率最高可达地面的 8 倍,据报道其还在与 SpaceX 洽谈发射合作。

昨天,谷歌已经通过在轨的 TPU 成功执行了推理,写了「一首关于身处太空的俳句」。SpaceX 更是在 2026 年 1 月向美国联邦通信委员会申请部署最多 100 万颗数据中心卫星;创业公司 Starcloud 已在 2025 年把一颗 H100 送入轨道。中国方面,「三体计算星座」已完成首发 12 颗计算卫星的发射,并在轨部署了多个 AI 模型;阿里 Qwen3 则是由国星宇航「星算计划」部署至太空计算中心,完成在轨端到端推理。

但物理同样给这个方案设置了障碍。真空中没有对流,散热只能靠辐射,需要巨大的散热面板;前沿模型训练需要成千上万颗芯片在每一步同步梯度,对带宽的要求远超当前星间链路的能力;发射成本仍是决定性变量,谷歌自己的论文假设要到 2030 年代中期,发射价格才可能降到每公斤 200 美元以下。

更准确的理解或许是:太空数据中心并不是对「能源不够」的回答,而是对地面「并网太慢」和「社会许可太难」的回答。它提醒我们,AI 基础设施的真正稀缺品,是可以被快速、合法、稳定地接入计算的能量。

结语

回到开头那句「算力的尽头是电力」。

从第一性原理出发,更完整的表述应该是:只要 Token 需求的增速快于单位能效的提升速度,AI 账本上的电力项就会持续增长;而决定一个国家或一家公司能跑多快的,是最慢那一环的速度。

回顾过去三年,瓶颈的迁移路径清晰可见:先是 GPU 本身,然后是 HBM 和 CoWoS 先进封装,如今是变压器、燃气轮机和并网排队。下一个会是什么?如果资本市场的耐心先于基础设施耗尽,瓶颈可能变成钱;如果社区反对持续扩散,瓶颈可能变成许可;如果芯片的一年一代迭代继续超过机房的三年建设周期,瓶颈还可能变成「建好的机房装不下下一代芯片」的资产搁浅风险。

没有一种单一技术能一劳永逸地解决问题。可以确定的是,AI 竞争已经从一场模型和芯片的竞赛,演变为一场覆盖能源、制造、金融和社会治理的系统工程竞赛。在这场竞赛中,最容易被高估的是单点突破,最容易被低估的是链条上那些不起眼的环节:一台变压器、一片取向硅钢、一纸规划许可。

本文来自微信公众号 “机器之心”(ID:almosthuman2014),作者:关注AI Infra的,36氪经授权发布。

Source

36Kr · AI