←新闻详情

Analytics India Magazine更新于 10月25日 18:26

AMD 高管谈智能体 AI 如何推高服务器 CPU 需求

AMD’s Server CPU Business Faces a New AI Boom

AI 导读

AMD 企业业务集团副总裁 Derek Dicker 在采访中表示,智能体 AI 让 CPU 承担工具、API、数据库和运行环境的编排,部分部署中 CPU 与 GPU 的配比已接近 1:1。AMD 近期公布面向智能体 AI 基础设施的机架级方案 Helion,其纯 CPU 配置基于第六代 EPYC 处理器,最多支持 32,768 个核心。Mercury Research 数据显示,2026 年第二季度 AMD 在 x86 服务器处理器出货中占 34.5%,Intel 为 65.5%;在数据中心 EPYC 与 Xeon SP 的对比中,AMD 份额为 46.4%。

推荐理由

AI 评分 59

AMD 高管解释智能体负载如何把 CPU 与 GPU 配比推向接近 1:1,并给出与 Intel、NVIDIA 的份额和基准对比。

主题

标签

正文 · AI 翻译

我们正在见证 AI 智能体的一个“ChatGPT”时刻。它们不再是只有精通 AI 的人才能搭建的手工作流。

得益于 Muse、Instinct 以及越来越多无需任何设置即可使用的智能体,任何人都可以简单地通过聊天来完成工作。这也让 CPU 在多年来相对被 GPU 盖过风头之后,重新回到聚光灯下。

那么,这对在 x86 服务器 CPU 市场颇为成功的芯片制造商 AMD 意味着什么?AMD 企业业务集团副总裁 Derek Dicker 在接受 AIM 采访时解释了公司的增长如何外溢到 CPU 生态系统。

在生成式 AI 的早期——有趣的是,那不过是 2022 年——CPU 主要向 GPU 提供数据、管理执行并运行周边软件。如今的智能体 AI 增加了多层工作

“正是智能体工作负载的形态让它变得极其独特,你不再是把单个请求送入 GPU 运行推理并得到响应,”Dicker 说。“这不仅仅是 GPU 传统上所做的推理工作,在其之上还有一系列由 CPU 运行和编排的活动。”

GPU 负责 LLM 推理这一计算密集型任务,而 CPU 必须协调智能体在多步骤任务中所依赖的工具、API、数据库和执行环境

Dicker 解释说,智能体 AI 正在提高对 CPU 的要求,使 CPU 与 GPU 的整体配比在某些部署中趋近 1:1。这包括为智能体执行和编排增加额外的 CPU 服务器,而 GPU 服务器仍可继续为每个 CPU 配置多个 GPU。

他表示,这一转变正在推动 CPU 需求大幅增长。

最近,该公司发布了 Helion,这是一个专为智能体 AI 基础设施设计的开放式机架级蓝图。

其纯 CPU 配置由 AMD 第六代 EPYC 处理器驱动,最多可支持 32,768 个 CPU 核心,用于在超大规模下运行智能体。

另一种配置则将 EPYC CPU 与 Instinct MI350P GPU 相结合,让企业可以在同一机架中运行智能体工作流和模型推理。

此前,AMD 在 7 月的 Advancing AI 活动上发布了第六代 EPYC“Venice”服务器 CPU 系列,同时将该细分市场的预测从目前的约 250 亿美元上调至 2030 年的 2000 亿美元以上。

“每种 CPU 承担不同的角色,”Dicker 说。

与传统服务器处理器不同,Venice 是作为一个 CPU 家族打造的,针对 AI 基础设施中三种不同的角色量身定制。

Dicker 将插槽层面的划分描述为两个家族:面向高性能工作负载的 SP7,以及优先考虑计算、内存和容量平衡的 SP8。

SP7 家族专为高核心密度和高性能而设计,其旗舰配置每个插槽拥有 256 个核心和 512 个线程。

Dicker 表示,这使其非常适合下一代智能体 AI 应用,这类应用需要 CPU 在基于 GPU 的推理之外协调和执行大量并发任务。

与此同时,SP8 家族面向通用企业计算。AMD 并未单纯追求最大化核心数量,而是优先考虑处理能力、性能和内存的平衡,以支持数据库、虚拟化和企业应用等工作负载。

该家族从 8 个核心扩展到 128 个核心,让组织可以选择适合其工作负载的配置。

AMD 对 Intel 对 NVIDIA

市场研究公司 Mercury Research 显示,AMD 在 x86 服务器 CPU 市场正稳步缩小与 Intel 的差距。

2026 年第二季度,AMD 占 x86 服务器处理器出货量的 34.5%,环比上升 130 个基点,而 Intel 的份额下降 130 个基点至 65.5%。

当比较范围缩小到数据中心使用的 AMD EPYC 和 Intel Xeon SP 处理器时,AMD 的份额升至 46.4%,而 Intel 为 53.6%。

在已发布的 SPEC CPU2017 整数吞吐量测试中,一台搭载 AMD 第五代 EPYC 9965 的双插槽服务器得分为 3,230,而一台双插槽 Intel Xeon 6980P 系统为 2,510。

然而,AMD 配置使用了 384 个核心,而 Intel 为 256 个,并且内存容量和编译器软件也有所不同。

与此同时,NVIDIA 正通过基于 Arm 的服务器 CPU 而非 x86 展开竞争。Mercury Research 估计,2026 年第二季度基于 Arm 的处理器占服务器 CPU 出货量的 13.6%,环比上升约 50 个基点。

NVIDIA 是 GPU 领域无可争议的王者。然而,它直到 2023 年才凭借基于 Arm 的 Grace 数据中心 CPU 进入这一市场,而 AMD 则在近十年前就已涉足

NVIDIA 押注于定制 Arm CPU,而 AMD 则认为 x86 仍然更适合企业 AI,因为现有软件已经可以在该架构上原生运行。

但在 NVIDIA 赶上之前,AMD 的 CPU 主导地位还能持续多久?

最近,云服务提供商 Modal 表示,其初步测试显示,Vera 完成的智能体工作量是其基础设施中已部署的 Intel 和第五代 AMD CPU 的两倍。

Modal 测试了 50 项 Terminal-Bench 任务,涵盖代码编译、文件搜索和 Git 命令等操作,并在多个并发运行的容器中进行。

在50个并发容器下,Modal的基准测试记录到NVIDIA Vera在每60秒内完成约4,200项经验证的任务,而Intel Granite Rapids约为2,400项,AMD Zen 5约为1,500项。

Vera的优势在重负载下进一步扩大,其内存带宽让Modal能在单台主机上承载更多工作负载,而不会出现竞品CPU上那种性能下降。

当工作负载扩展到100和150个容器时,Vera的吞吐量继续增长,而Intel则趋于平稳,AMD仍维持在约1,000至1,500项完成量。

基于这些结果,Modal计划将NVIDIA的Vera CPU纳入其基础设施,同时继续运行现有的x86机群。

然而,凭借最新的第六代Venice CPU,AMD声称在SPEC CPU 2026基准测试中性能超过NVIDIA的Vera。

AMD估计,其256核EPYC 9996的聚合吞吐量是NVIDIA 88核Vera的2.24倍,估计得分分别为2,070和925。

在更接近的对比中,AMD的96核Venice配置估计每核性能比Vera高出约20%。

需要在已出货系统上,使用匹配的软件和贴近真实的智能体工作负载进行独立测试,才能确定哪款CPU在每项完成任务上提供更好的性能和成本。

“我们经常听到的说法是,数据中心已经塞满了,可用空间相当有限,”Dicker说。“而为AI腾出空间的最快方式,就是进行整合。”

Dicker表示,AMD EPYC系列的一个“美妙”优势在于,它能够整合运行在旧服务器上的工作负载,从而为AI基础设施释放数据中心空间和电力。

他声称,组织若对大约五年前安装的服务器进行更新换代,使用第六代EPYC处理器可实现13比1的整合比。

换句话说,AMD估计,分布在13台旧服务器上的工作负载可以整合到一台更新的服务器上,从而为AI部署释放机架空间和电力。

更少的服务器可以减少冷却需求、网络复杂性和软件许可成本,尤其是当企业软件按CPU核心数授权时。

“你释放了电力,降低了基础设施管理的复杂性,并让数据中心运营商有能力在需要的地方部署AI基础设施,”Dicker说。

来源

Analytics India Magazine