AI智能体不仅生成答案，还会搜索信息、查询数据库、编写和测试代码并采取行动。 

上述每一步都依赖CPU，智能体在整个任务过程中不断在GPU推理与CPU执行之间切换。 

随着企业部署越来越多的智能体，AI工厂需要能够快速执行这些步骤、同时支持大量智能体的CPU，而且这一切都要在可用功耗的限制之内实现。

这意味着： AI基础设施提供商需要支持更多智能体，同时不让每个智能体等待更长时间才能完成工作。更关键的是，AI工厂受功耗限制。这意味着运营方需要选择能在每一瓦功耗下最大化完成工作量的基础设施。 

为何重要： NVIDIA Vera 在单颗CPU内同时实现了快速的智能体性能和高每瓦容量。这为提供商提供了一颗可覆盖多种智能体工作负载的CPU，而无需混搭快速型和密集型x86部件来平衡速度与容量。

证明这一点的数据： 在100兆瓦数据中心的对比中，NVIDIA发现单颗Vera CPU的性能优于最快的x86 CPU和最节能的x86 CPU。

  • Vera 在提供行业领先的智能体速度的同时，还能实现 相比最快的 x86 CPU，每瓦可支持的智能体数量多 1.6 倍。 相比最快的 x86 CPU。
  • Vera 实现了行业领先的智能体速度，同时相比最快的 x86 CPU，每瓦可支持的智能体数量多 1.6 倍。 智能体速度提升2倍 ，同时相比最节能的 x86 CPU 在能效上保持领先。

合作伙伴已将 Vera 投入实际使用。早期采用者在生产级测试中看到了同样卓越的性能：

  • Perplexity：与传统 CPU 相比，使用 Vera 运行智能体编码任务的速度提升了 1.5 倍。Perplexity 计划在即将推出的生产系统中部署 Vera。
  • DeepInfra：在其生产智能体工作负载的智能体编排方面，交付速度最高达到最佳 x86 处理器的 2.2 倍，在测试的四种架构中实现最快速度。
  • ClickHouse其标准二进制版本未针对 Vera 做专门调优，在 176 个核心上接近线性扩展，并登顶 ClickBench 硬件排行榜。
  • DuckLabs：在英特尔至强6基准测试中，达到其T PC-H SF1000中位性能的约1.5倍。
  • Daytona：在10.8秒内上线了1,000个智能体沙箱，并在2,000个并发沙箱下实现了每秒完成12.7个作业，使用的是Vera，而x86为88.4秒。
  • Modal：相比同类 x86 硬件，每核心沙箱吞吐量最高提升至 2 倍，且负载越重，优势越明显。

了解更多关于 NVIDIA Vera CPU.