Nvidia 在 Agent Toolkit 中新增 Agent Knowledge Foundation

目前，每家企业公司都在设法让自己的AI工具与自身数据协同工作。与此同时，每一家与这些企业合作的大型企业供应商（想想SAP、微软、Salesforce、Workday等）都在宣称要成为管理和保护这些数据的中心枢纽。

但那些想自己动手做的公司呢？

Nvidia周三宣布，它希望为企业AI智能体提供所需的数据，以便理解公司数据——同时不与已经存储这些数据的数据平台竞争。

在周三举行的GTC Berlin大会上，该公司将Agent Knowledge Foundation加入其Agent Toolkit。这套新的开源组件集合打包了该公司的Nemotron Retriever模型、新的Auto-Ontology库、面向结构化数据的Kumo系列模型，以及其CUDA-X数据处理库。

Nvidia表示，借助这一系统，数据可以留在原处，并继续按照这些公司已有的访问规则进行管理。

Nvidia智能体AI产品副总裁Adel El Hallak告诉The New Stack，如今企业或许能够将智能体连接到Snowflake这样的供应商，但这并不能帮助智能体理解整体企业上下文。

“我希望事情能像连接到我的Snowflake系统、连接到我的电子邮件交换系统、连接到我的知识库那样简单，然后突然间，AI就神奇地理解了所有数据。但现实并非如此，”他说。

El Hallak认为，大语言模型“非常擅长预测下一个token”，但当面对一个有着“一大堆标签页”的电子表格时，智能体将很难找到特定的内容。“它会很吃力，”他说。

更好的检索，更少的查找

“在智能体的世界里，你需要最准确的嵌入模型或重排序模型，”El Hallak说，即使这会给每次查找增加一点延迟。这样智能体就能获得“相关性高得多的信息。所以最终查找次数减少，整体延迟实际上反而下降了。”

Nvidia表示，其Nemotron Retriever嵌入模型在开源OpenSearch环境的测试中将搜索相关性提升了65%，所需搜索步骤更少，而且几乎不增加延迟。Nvidia称，SAP微调后的重排序模型运行速度接近三倍，ServiceNow则获得了更好的重排序质量，同时延迟降低近25%。

从RAG到本体

“RAG很棒，但它足够好吗？”El Hallak问道。他说，知识图谱比检索增强生成（RAG）更能表示概念及其之间的关系，后者只是基于相似度拉取文本块。

Nvidia的Auto-Ontology库从公司自己的表构建这些图谱，并将原始数据映射到客户、产品和订单等业务概念。它在Nvidia NGC软件目录中的条目显示了一个REST API和一个模型上下文协议（MCP）服务器，智能体可以用它来查询。

“你和我很容易理解。在移动运营商那里，tier和plan是一回事，”El Hallak说，但大语言模型“会把它们搞混。”

Nvidia于2月以据报道7500万美元收购了以色列初创公司Illumex，该公司可自动为企业数据创建语义层和本体。当时，一位Nvidia发言人告诉《Globes》，该团队的本体专业知识将帮助其构建“能够推动智能体AI在组织中落地的库和模型。”

从表格进行预测

Kumo 是 Nvidia 于 6 月收购的初创公司，The Information 对该交易的估值超过 4 亿美元，该公司为关系型数据构建基础模型。此后，Nvidia 已在 Hugging Face 上以开放权重形式发布了多个 Kumo 模型，包括 9 月的 Kumo Tabular。

El Hallak 表示，这些模型取代了数据团队过去“为每个分类、每个流失预测、每个情感分析”构建的逐任务流水线。

“本体的全部意义……在于在你创建这些知识图谱时带来协调统一，从而让各表之间保持[一致性]，然后你就可以用 Kumo 来驱动预测分析，”他说。

合作伙伴，而非竞争对手

“我并不想与，比如说，Snowflake 竞争。恰恰相反，我想与他们合作，”El Hallak 说。

Nvidia 自己的供应链团队通过 Palantir 的 Foundry 平台使用 Agent Knowledge Foundation，这建立在两家公司早先合作的基础上。Databricks 正将 Kumo 异常检测模型与其 6 月推出的上下文层 Genie Ontology 搭配使用，而 Snowflake 客户可以在 Snowflake Notebooks 中运行 Kumo 模型。

“我不考虑 ACL、数据访问之类的事情。这就是为什么我需要合作伙伴，”El Hallak 说，他指的是访问控制列表及其企业合作伙伴提供的其他安全功能。

掌控整个技术栈

并非所有供应商都走这条路。SAP 于 7 月完成了对 TabPFN 表格模型背后的公司 Prior Labs 的收购，并承诺在四年内向其投入超过 10 亿欧元。它现在在 SAP AI Core 中提供 TabPFN-3.5 Plus，与其自有 RPT 模型并列。

与此同时，Nvidia 通过 Hugging Face 分发其模型，并已于 9 月同意以 129 亿美元收购后者。“我们只是构建一些小的权重和模型，然后把它们发布在 Hugging Face 上，”El Hallak 说。

这就形成了这样的分工：Nvidia 负责构建模型，而 Snowflake 和 Databricks 等公司则继续掌控数据及其相关的权限。

文章《Nvidia 押注开放模型能为企业 AI 智能体补上缺失的上下文》首发于 The New Stack。