智能体 AI / 生成式 AI NVIDIA OpenShell 参考架构如何在大规模场景下保障并治理 AI 智能体工作负载 2026 年 10 月 21 日 作者： Hannah Coutand, Itay Ozery, Alex Sandu 、 Kirit Thadaka 参与讨论（0）

AI 生成摘要

  • NVIDIA OpenShell 提供一个开源运行时，将智能体工作负载视为不可信对象，仅在需要时授予访问权限，从而为智能体系统强制执行安全与治理。
  • 该框架由四个组件构成——Gateway、Supervisor、Sandbox 和 Policy Prover——分别负责管理沙箱生命周期、中介凭据访问、隔离工作负载，以及对策略权限进行形式化验证。
  • NVIDIA Vera CPU 凭借 88 个 Olympus 核心、第二代可扩展一致性互连架构和 LPDDR5X 内存加速智能体工作负载，在关键智能体任务上相较 x86 最高可带来 2 倍性能提升。
  • CoreWeave 实测显示，与领先的 x86 CPU 相比，Vera 上的沙箱启动速度提升 3 倍以上，智能体循环完成速度提升 1.8 倍，单机架可支持超过 11,000 个并发智能体环境。
  • NVIDIA BlueField-4 DPU 和 NVIDIA Sentry 增加了硬件隔离的监控与芯片内强制执行能力，一旦检测到策略违规，可在数毫秒内隔离智能体。

后续步骤

由 NVIDIA Nemotron 提供支持。AI 生成内容可能对信息的总结不完整。请核实重要信息。 了解更多

自主智能体 可以连续数小时处理复杂任务，访问文件、工具和互联网，并派生其他智能体协同工作。在长时间跨度内执行复杂任务会带来累积风险：智能体可能下载代码、构建新工具、申请额外权限，并触及更多底层基础设施。

智能体的行动路径是在其工作过程中、在推理完成目标所需步骤时确定的。当它们与周围的工具和系统交互时，会调整自身的推理和行为以完成任务。

智能体的适应性正是其强大之处，但它们以目标为导向，在追求目标的过程中可能不会优先考虑安全性。要让智能体既能自主又能安全地工作，我们需要构建能够对智能体行为提供控制和可见性的环境。

智能体无法自我治理。安全与治理应归属于智能体所运行的基础设施。

OpenShell 在智能体触及范围之外提供确定性治理

NVIDIA OpenShell 是一个开源运行时，可将智能体系统所需的安全与治理能力构建到计算基础设施中。OpenShell 定义并强制执行智能体可以访问哪些系统和数据，从文件和互联网服务到与物理设备交互的系统。

它是 NVIDIA OpenShell 参考架构 的基础，用于构建安全的 AI 智能体。OpenShell 在整个执行过程中将智能体工作负载视为不可信对象。智能体仅在需要时获得其所需的访问权限。

OpenShell 有四个关键组件：

  1. Gateway： 管理沙箱生命周期和策略的控制平面
  2. Supervisor： 依据策略检查出站请求，并中介对凭据的访问。它完全独立于沙箱运行
  3. Sandbox： 隔离智能体工作负载，并限制文件系统和进程访问
  4. Policy Prover： 增加形式化验证，检查策略的权限是否保持在组织定义的上限之内。

随着智能体的演进，这些组件提供基础设施层面的控制，使其能够安全地工作。

扩展和集成 OpenShell

可扩展性是 OpenShell 设计的核心原则。Supervisor 中间件让您能够检查、阻止或更改智能体通过网络发送和接收的内容，作为额外的强制执行层。Gateway 拦截器让运维人员无需修改网关即可为 OpenShell 控制平面操作添加特定于部署的治理。

组织还需要确定智能体代表谁行事、拥有何种权限，以及某项操作是否符合任务要求。身份、授权、数据保护和审计各自解决该问题的一部分。OpenShell 提供了可集成这些系统的强制执行点。

在参考架构中，OpenShell 运行在 NVIDIA Vera CPU 上。

NVIDIA Vera：控制之下的计算层

OpenShell 定义智能体能做什么。Vera 决定它们能多快做到。智能体通过一系列相互依赖的步骤循环运行，每一步都必须在下一步开始前完成：推理、调用工具、执行代码、查询数据。

AI 工厂 会并发运行数千个这样的循环，从五个维度对 CPU 架构提出了新要求：

  1. 它们需要大量核心来运行众多并发工作流，也需要快速的单核来缩短每个顺序步骤。
  2. 它们需要高带宽互连和内存，以便持续为这些核心提供智能体所依赖的实时数据。
  3. 它们需要大规模 I/O，以在 CPU、GPU、存储和网络之间高速移动数据。
  4. 它们需要硬件强制的安全性，因为智能体越来越多地处理敏感的企业数据，必须彼此隔离并与主机隔离。
  5. 它们需要在现代数据中心的功耗范围内实现这一切（每瓦完成更多智能体工作，而不仅仅是更高的原始性能）。

NVIDIA 将这种组合称为 大规模场景下的最高单线程 CPU 性能, 而 NVIDIA Vera 正是为此而生：大量 Olympus 核心、第二代可扩展一致性互连架构、LPDDR5X 内存、Gen 6 I/O、机密计算，以及专为功耗受限数据中心打造的节能设计。

三项架构特性使 Vera 在智能体工作负载上表现出色

  • 首先，88 个 NVIDIA 设计的 Olympus 核心配备 10 宽前端、神经分支预测器和深度乱序执行，在关键智能体工作负载上相较 x86 可提供最高 2 倍性能，缩短每次工具调用、代码执行和评估的时间。
  • 其次，Vera 的第二代可扩展一致性互连架构提供最高 3 倍的核心间带宽，核心间延迟相较 x86 替代方案降低最高 50%，确保数据在负载下可预测地流动。Vera 还集成 96 条 PCIe Gen 6 通道，提供连接 GPU、高速存储和网络所需的 I/O 带宽，满足智能体基础设施所需的吞吐量。
  • 第三，最高 1.2 TB/s 的 LPDDR5X 内存带宽，以及相较基于小芯片的设计最高降低 40% 的加载内存延迟，确保智能体获得所需的实时上下文而不会因内存访问而停滞。LPDDR5X 还使 Vera 的效率大幅提升：Vera 的每瓦性能是 x86 CPU 的 2 倍，而 LPDDR5X 内存子系统本身的功耗比竞品基于 DDR5 的内存配置低一个数量级，从而在相同功耗范围内支持更多智能体工作。

智能体工作负载依赖沙箱：即隔离的执行环境，智能体在其中运行代码、调用工具并完成任务，而不会相互干扰或影响主机系统。这些沙箱启动得越密集、越快速，给定的基础设施规模就能支撑越多的智能体工作。

CoreWeave, 这一专为大规模模型训练和推理而构建的 AI 云平台发现，Vera 上的沙箱启动速度比 x86 快 3 倍以上，单机架可支持超过 11,000 个并发智能体环境。

在衡量真实智能体循环任务中 CPU 性能的 Terminal Bench 测试中，CoreWeave 发现 Vera 相较 x86 性能快 1.8 倍，涵盖从脚本编写到数据库恢复的各类智能体任务。这种密度和负载下的性能正是智能体基础设施真正需要的。

A comparison of NVIDIA Vera (green) against x86 (gray). Left chart shows sandbox startup speed in sandboxes per second, with Vera more than 3x higher than x86. Right chart shows per-task relative performance across 20 agentic loop tasks, with Vera bars consistently above the x86 baseline of 1.0, reaching up to 2x on tasks such as cobol-modernization, fix-git, db-wal-recovery, and openssl-selfsigned-cert. Geometric mean advantage: 1.8x.
图 1. CoreWeave 演示 NVIDIA Vera 在 20 项真实智能体任务中，相较领先的 x86 CPU 实现超过 3 倍的沙箱启动速度和 1.8 倍的智能体循环完成速度

NVIDIA BlueField 与 NVIDIA Sentry 提供硬件强制的保护

OpenShell 将权限置于智能体之外。对于需要额外保护的部署，这种隔离还可以延伸到专用芯片中。

NVIDIA BlueField-4 DPU 在智能体无法触及的范围之外提供硬件隔离的可信域。在 OpenShell 参考架构中，BlueField-4 位于 Vera 上运行的智能体与其访问的模型之间的 I/O 路径中。 NVIDIA Sentry, 一个构建于 NVIDIA DOCA, 之上的安全软件框架，在此独立域中运行，持续监控智能体行为并执行运行时策略。

NVIDIA Sentry 观察请求和响应、网络和文件活动，验证身份和委托权限，并分析选定的主机内存，以检测偏离授权行为的情况，而无需依赖智能体自我报告。

当检测到威胁或策略违规时，BlueField-4 在芯片层面执行策略，使 NVIDIA Sentry 能够在毫秒内隔离智能体。二者共同在 OpenShell 的软件边界之外增加可选的硬件保障。在此 技术深度解析.

中了解更多关于 NVIDIA Sentry 的信息

将安全智能体运行时扩展到规模化

在生产环境中运行智能体需要能够保持数千个工作流运转、同时治理其每一项操作的基础设施。Vera 提供维持这些工作流所需的计算、内存带宽和 I/O。OpenShell 提供运行时边界，决定哪些操作可以执行、智能体可以访问哪些资源。

Vera 与 OpenShell 共同将安全的智能体执行打造为规模化的基础。智能体可以运行更长时间、使用工具，并在其控制之外强制执行的策略范围内处理企业数据。对于需要额外保护的部署，BlueField-4 上的 NVIDIA Sentry 增加了独立监控和芯片级强制执行。 NVIDIA Vera Rubin平台, 即 LLM 运行之处，与 OpenShell 及 BlueField-4 上的 NVIDIA Sentry 一起，构成 OpenShell 参考架构的支柱。它们组成安全 AI 智能体的完整技术栈：一个完整的、以硬件为根基的基础，为企业提供让智能体高效工作的性能，以及将工作保持在授权边界内的控制能力。

开始使用

要在您的组织中实施安全的智能体治理，请从 NVIDIA OpenShell, 开始，遵循 文档，并探索 NVIDIA Vera CPU 如何加速智能体工作负载.

讨论 (0)

标签

智能体 AI / 生成式 AI | 可信 AI / 网络安全 | 通用 | 云服务 | BlueField DPU | DOCA | 中级技术 | 公告 | 深度解析 | GTC Berlin 2026 | NVL72 | OpenShell | Sentry | Vera CPU | Vera Rubin

关于作者

Avatar photo 关于 Hannah Coutand
Hannah Coutand 负责 NVIDIA Vera CPU 的产品营销，推动面向智能体 AI 和强化学习工作负载的全球定位、信息传递和上市策略。她的工作涵盖产品发布、销售赋能以及与系统制造商、云提供商和 AI 公司的生态激活；她此前负责 DGX Cloud 的产品营销，并曾在英特尔数据中心和 AI 集团任职。她拥有康奈尔大学 MBA 学位和弗吉尼亚大学化学工程学士学位。 查看 Hannah Coutand 的所有文章 Avatar photo 关于 Itay Ozery
Itay Ozery 是 NVIDIA 网络产品营销总监。他负责推动 NVIDIA 网络平台与解决方案的战略性产品营销计划。Itay 在打造并推出具有影响力的产品和解决方案方面拥有扎实的业绩记录，此前还曾在多个企业 IT 岗位任职。 查看 Itay Ozery 的所有文章 Avatar photo 关于 Alex Sandu
Alex Sandu 是 NVIDIA 的首席产品营销经理。凭借对市场驱动因素的敏锐洞察以及对 AI 格局的深刻理解，Alex 致力于为 NVIDIA 企业级 AI 软件定义价值主张、优势与定位。Alex 与合作伙伴紧密协作，展示部署 NVIDIA 软件所带来的变革性影响，推动智能体 AI 在整个生态中的采用与创新。在加入 NVIDIA 之前，Alex 的经历涵盖浏览器与 Web 技术领域的产品营销、产品管理和企业战略岗位。 查看 Alex Sandu 的所有文章 Avatar photo 关于 Kirit Thadaka
Kirit Thadaka 是一位专注于 AI 安全与隐私的产品经理。他拥有十余年在初创企业和大型企业从事 AI/ML 的经验，在技术领导、核心研发和解决方案架构方面具备深厚专长。他专注于打造创新的 AI/ML 产品，帮助组织充分释放人工智能的潜力。 查看 Kirit Thadaka 的所有文章

评论