Nvidia 发布 Open Agent Safety Platform，用 BlueField-4 DPU 监控智能体

Nvidia将赋予企业对其自主AI智能体更多的控制权，为此将安全机制直接集成到其AI系统的硬件中。在柏林GTC大会上，该集团展示了围绕运行时环境OpenShell构建的Open Agent Safety Platform，并公布了新的性能承诺和更多行业合作伙伴。

广告后继续阅读

专用的BlueField-4 DPU应能独立于所使用的语言模型监控AI智能体的活动，并在毫秒内阻止未经授权的操作。与此同时，Nvidia还发布了更多开放AI模型和软件，使智能体能够访问企业数据并自主做出预测。

给智能体戴上脚镣

Nvidia此前已通过OpenShell推出了一款开源运行时环境，可在隔离环境中运行AI智能体。它旨在防止智能体随意访问文件、网络服务或程序。此类安全边界是必要的，因为自主智能体不仅能生成文本，还能自主调用工具并对IT系统进行更改。

Open Agent Safety Platform通过硬件支持的控制扩展了这一理念。在GTC上，Nvidia为此展示了OpenShell的参考架构。Nvidia为此设定了分工：Vera Rubin系统负责计算AI模型，Vera CPU负责运行智能体及其工具。BlueField-4 DPU则借助安全软件Sentry承担独立监控和访问规则的执行。

Nvidia承诺，当智能体越过预设的安全边界时，Sentry能在毫秒内将其隔离并停止。由于这些控制运行在实际沙箱之外，智能体应无法更改或绕过它们。OpenShell软件是开源的，也支持其他供应商的智能体框架，包括Anthropic的Claude Code和OpenAI的Codex。

为AI打造的安全区

Nvidia由此在基础设施层面为AI模型的安全机制补充了控制手段。迄今为止，供应商主要试图通过对齐来防止不受欢迎的回答。为此，模型会在事后接受训练，以拒绝特定请求。对于可自由获取的模型，这些限制部分可以通过所谓的消融（Abliteration）再次移除，即有针对性地改变内部表征。

广告后继续阅读

OpenShell采取了不同的方法。运行时环境不限制模型的回答，而是控制智能体可以访问哪些文件、程序和网络服务。管理员可以通过它规定智能体究竟能访问哪些模型服务器和推理端点。因此，该系统可以阻止未经授权的访问，但无法控制AI模型在获得授权访问时会做些什么：它是否会无意中篡改数据、植入后门或以其他方式危害安全。

从西门子到Palantir：据Nvidia称，已有超过100家机构使用Open Agent Safety Platform的技术。“我根本没法把它们全部列举出来，但我爱它们每一个，”黄仁勋表示。

（图片：heise）

借助OpenShell，可以将特定模型排除在运行之外，而无需改变其权重或对齐。这样一来，决定性的因素不再仅仅是誰开发了AI模型并规定了其内容边界，还包括谁控制着它们的运行时环境及其访问规则。

企业数据分析

通过新的Agent Knowledge Foundation，Nvidia希望让智能体更紧密地连接企业的信息资产。该软件应能同时开发数据库中的结构化数据和文档中的非结构化信息，而企业无需为此将其数据资产传输到Nvidia的云中。

一个新的Auto-Ontology库应能识别业务数据之间的关系，例如将客户、产品或订单相互关联起来。为此，Nvidia将现有的CUDA-X库与其Nemotron Retriever模型以及新的Kumo模型系列相结合。该系列基于初创公司Kumo AI的技术，据媒体报道，Nvidia已于6月收购了该公司。

请注意那条绿色曲线：如今Nvidia不仅将自己视为全球最大的AI芯片和数据中心供应商，还视为开放权重模型的供应商。除了同样提供源代码和训练数据的Nemotron之外，还新增了Kumo等其他系列。

（图片：heise）

Kumo 专注于基于结构化数据的预测。Nvidia 为此提供多个预训练模型，包括 Kumo Tabular、Relational、Time Series、Forecast 和 Anomaly。它们可用于预测营收走势、识别异常或评估运营风险。此前，此类应用往往需要针对单个数据集专门开发机器学习方法。Nvidia 希望通过面向不同数据类型的预训练模型来减少这一工作量。

合作伙伴包括 Databricks 和 Snowflake。Palantir 也与 Nvidia 合作：其软件在 Nvidia 自身的供应链组织内分析业务数据并准备决策，

此外，Nvidia 还在扩展其免费可用的 AI 模型产品。Nemotron 3.5 Super VL 可处理文本和图像信息。同样已可用的还有 Nemotron 3.5 Bolt 74B-A9B，紧凑版 Bolt E4B 已宣布将于 10 月 23 日推出。此外还有用于在企业文档中搜索的新 Retriever 模型。借助 Cosmos、Alpamayo 和 BioNeMo，Nvidia 还提供面向机器人技术、自动驾驶和蛋白质研究的专用模型。

该集团强调，企业可以用自有数据调整这些模型，并在自主控制的基础设施上部署。至少 Kumo Tabular 以开放权重形式提供。因此，开发者可以使用已发布的模型权重，并在必要时对其进行修改。对于 Nemotron，Nvidia 部分还额外提供数据集和训练配方。

一个世界还不够：Nvidia 最终希望借助其 AI 开发整个地球的数字孪生。

（图片：heise）

Nvidia 由此一方面在 AI 模型的使用和调整上提供了更多自由，另一方面也在建立自己的平台，用于模型的运行、数据访问和安全保障。

通过将企业数据、AI 模型和智能体运行时相结合，Nvidia 同时更深入地介入客户的业务流程。数据虽然可以留在企业内部，但硬件和软件工具由 Nvidia 提供。

黄仁勋在柏林 Tempodrom 举行的主题演讲结尾展示了这一发展方向：Nvidia 希望与合作伙伴一起，为一切可想象的生产流程创建数字孪生。很快每家企业都将成为 AI 企业，最终将出现整个地球的数字孪生。因此，当埃隆·马斯克在为逃往火星做准备时，黄仁勋已经在着手制作我们这颗行星的数字副本。如果新的 AI 工业化最终毁掉了气候，至少还有一份备份。

（hag）