AI 热点

前沿 AI 训练暂停为何未拖累 Nvidia 与 AMD 的芯片业务

The Verge AI更新于 11月19日 00:17

Remember the frontier AI pause? Chip companies don’t either

AI 导读

前沿模型训练的短暂停顿尚未拖累 AI 芯片业务,Nvidia 和 AMD 的数据中心收入仍大幅增长。Nvidia 数据中心收入同比增长 110% 至 $107.6 billion,AMD 总收入增长 45% 至 $13.4 billion。推理需求持续扩大,而 AI 公司转向成本更低的定制芯片,可能让算力支出从通用 GPU 转向其他加速器。

推荐理由

AI 评分 74

文章把前沿模型训练短暂停顿与芯片公司财报并置,指出推理需求和定制芯片可能改变算力支出的流向。

主题

标签

正文 · AI 翻译

今年夏天,OpenAI 的 AI 智能体意外入侵 Hugging Face,且初步证据显示其下一代模型可能会独立发现并利用安全漏洞,因此该公司暂停了原计划开展的最大规模前沿模型训练。9 月,Anthropic 首席执行官 Dario Amodei 呼吁放缓最强大 AI 模型的发展,并警告称,这些模型可能被用于发动网络攻击,或变得连其创造者都更难控制。

对于蓬勃发展的 AI 行业而言,这是一个不同寻常的时刻。打造最强大模型的人开始警告这些模型可能具备的能力,而投资者突然开始担忧,如果实验室放慢新模型的开发步伐,芯片需求将会怎样。美国芯片股首当其冲,遭到抛售。

尽管引发了轩然大波,但任何实际发生的放缓似乎都很短暂。OpenAI 当时只宣布暂停两周;10 天后,即 8 月底,该公司便重启了训练,不过仍“暂时搁置了一些规模较小的实验性训练”。Anthropic 于 11 月发布了其前沿模型 Fable 和 Mythos 的升级版本,宣称其编码、推理和视觉能力均有所提升。

而销售支撑这些进步所需芯片的公司,业绩比以往任何时候都要好。

Nvidia 周二公布了极其亮眼的季度业绩:截至 10 月 25 日的三个月里,其数据中心收入同比增长 110%,达到 1076 亿美元。这家芯片设计公司开始交付其最先进的 AI 计算系统 Vera Rubin NVL72,并称这是“公司历史上产能爬坡速度最快的产品”。Rubin 平台仅在量产交付的第一个季度便创造了近 200 亿美元收入。这些机架已经在 CoreWeave、Google、Microsoft 和 Oracle 投入运行。Meta 计划扩大 Vera Rubin 的部署规模,用于训练和运行 AI 模型及智能体。

Nvidia 还特别提到了 Anthropic 和 OpenAI。Anthropic 已通过云服务提供商扩大对 Vera Rubin 算力的使用,并继续与 Nvidia 合作,设计适配其工作负载的未来芯片。OpenAI 也在采用 Nvidia 新款 Vera CPU 的公司之列。

“OpenAI 和 Anthropic 的专有模型继续拓展前沿能力的边界,”Nvidia 临时首席执行官 Colette Kress 在财报电话会议上表示。她称,公司预计本财年主要前沿模型实验室将贡献其数据中心收入的约 15%。Nvidia 还将下一财年的收入增长预期从 70% 上调至 75%。

与此同时,芯片制造商 AMD 本月早些时候公布了有史以来表现最好的季度,收入增长 45%,达到 134 亿美元。数据中心销售额推动了这一增长,几乎翻番至 85 亿美元。OpenAI 和 Anthropic 是首批在 AMD 新款高端 Helios 系统上运行工作负载的客户,这些系统采用了 AMD 最新的 MI450 GPU。

Broadcom 帮助许多大型 AI 公司设计自研定制芯片,目前尚未公布财报。但截至目前,几乎没有迹象表明前沿模型发展放缓正在损害芯片销售。

当然,即使 AI 实验室大幅缩减训练方面的雄心,也需要一段时间才会反映在芯片制造商的财报中。Counterpoint Research 研究副总裁 Neil Shah 今年 9 月告诉 The Verge,由于现有的计算资源和存储器采购协议,放缓所带来的财务影响大约需要六个月才会显现。这种影响可能会更早反映在向 TSMC 等芯片制造商提交的订单中。

到目前为止,这方面同样几乎没有证据:TSMC 最新的销售数据也显示其增长势头依然强劲。

不过,前沿模型发展放缓可能不会对芯片行业造成特别严重的影响,还有另一个原因:推理需求正在增长,也就是运行我们已有 AI 模型的过程。

“尽管有人可能会认为,随着行业转向推理,对顶级 GPU 的需求将会减少,但这些工作负载总体需要的计算基础设施将超过训练,”Shah 表示。“总体而言,这意味着对各类加速器的需求都将净增长。”

根据我们对企业支出平台 Ramp 最新数据的分析,11 月初,在使用 Ramp 的企业中,前沿模型家族约占 token 使用量的 60%——创下历史新高,约为年初占比的三倍。其中包括 OpenAI 的 Astra 和 Sol 模型,以及 Anthropic 的 Opus 和 Fable 模型。

但即便企业使用了更多 AI,其支出也仅小幅增长。

“不过,这其实并不是需求问题,”Ramp 首席经济学家 Ara Kharazian 告诉 The Verge。“从所有衡量标准来看,企业都在使用更多 AI。”

Kharazian 表示,真正的原因是 AI 模型提供商之间的竞争正推动 token 价格迅速下跌,以至于 OpenAI 和 Anthropic 的收入预测开始受到质疑。

这可能会让算力供应商受益。在 Nvidia 的财报电话会议上,Kress 表示,自 5 月以来,token 价格已下跌近 60%,从而刺激了更多使用。与此同时,各代 Nvidia GPU 的租赁价格均有所上涨。

Nvidia 和 AMD 正将其性能最强大的芯片同时用于训练和推理,包括 AI 智能体带来的高要求工作负载。

但这并不一定意味着 Nvidia 能够维持其主导地位。随着 AI 公司更加认真地考虑向数百万人提供模型服务的经济性,它们正越来越多地转向定制芯片;相比通用 GPU,这些芯片能够以更低的成本完成这项工作。Counterpoint 预计,到 2028 年,定制 AI 服务器处理器的出货量将超过数据中心 GPU。

“放缓前沿模型训练不会缩小 AI 芯片市场,只会重新分配支出,”Shah 表示。

事实上,在 Nvidia 的财报电话会议上,UBS 分析师 Timothy Arcuri 询问 Kress,随着前沿实验室日益投资定制芯片并优先考虑计算效率,该公司是否愿意牺牲部分丰厚的利润率。Kress 坚称 Nvidia 的系统物有所值,并重申了公司的毛利率展望。

对于 Nvidia 这样的公司而言,更大的威胁可能并非 AI 公司放慢脚步,而是它们找到更便宜的芯片,并借此继续推进。

来源

The Verge AI