←新闻详情

TechCrunch AI更新于 11月5日 23:21

Box 采用 Nvidia Nemotron 打造智能体优先的内容检索系统

Box taps Nvidia’s Nemotron for new agent-first content retrieval system

AI 导读

Box 在开发者大会上发布 Box Content Retrieval,将 Nvidia 的 Nemotron 嵌入系统集成进产品核心,让智能体基于嵌入元数据检索文档片段。Nvidia 生成式 AI 软件副总裁 Kari Briski 预计查询速度提升 4 倍、错误减少 20%、token 用量减少 90%。该功能面向 Box Enterprise Advance 客户,明年初开始推送。

正文 · AI 翻译

在周四的开发者大会上,Box 展示了一项新功能,该功能将把 Nvidia 的 Nemotron 嵌入系统构建到其产品的核心之中。

这项名为 Box Content Retrieval 的新功能让智能体能够依靠 Nemotron 创建的嵌入元数据,更高效地回答问题。

Box 表示,对用户而言,其好处是查询速度更快、更准确且成本更低。Nvidia 生成式 AI 软件副总裁 Kari Briski 告诉 TechCrunch,她预计查询回答速度将提升四倍,错误减少 20%,token 用量减少 90%。

该系统将面向 Box 所有 Enterprise Advance 客户提供,于明年初开始推送。

“这极大地提升了我们的搜索技术对智能体的相关性,”Box CEO Aaron Levie 表示。“智能体不必再逐一通读每份文档,我们可以返回文档中与用户查询或智能体所执行任务最相关的片段。”

该功能是 Nvidia Nemotron Embed 项目的落地实现,该项目提供开放权重的嵌入模型,以改进自动化检索系统。各大实验室往往忽视这类模型,它们利用大语言模型对数据进行预处理,以便智能体更好地使用。这一领域一直是 Nvidia 开源模型项目的重点,其今年 7 月发布的最新 Nemotron 在衡量检索质量的 RTEB 基准测试中位居榜首。

Box 表示,该系统与主动型智能体配合使用时最为有用,并以律师为例:在新系统下,律师理论上能够更轻松地找到相关条款和判例。由于 Nemotron 的嵌入超越了简单的关键词,能够映射底层概念,因此即使使用不同的措辞或语言,搜索工具也能呈现相关的法律主题。

虽然 Nemotron 模型可免费获取,但该系统还严重依赖 Box 既有的元数据和权限控制,这使得从零开始复刻它颇具挑战。“我们大概是把五种不同的技术打包进了一个简单的 API 中,”Levie 告诉 TechCrunch。

来源

TechCrunch AI