NVIDIA 发布 Nemotron 3.5 系列开放模型，覆盖嵌入、重排与文档解析

2026年10月21日，NVIDIA扩展了其Nemotron Retriever系列，推出新的开放、可商用模型，涵盖嵌入、重排和文档提取：Nemotron 3.5 Embed提供8B BF16、1B BF16和1B NVFP4三种变体，Nemotron 3.5 Rerank 8B BF16，以及拥有6.31亿参数的Nemotron 3.5 Parse。

在NVIDIA发布于Hugging Face的公告中，该公司表示此次发布面向企业智能体工作流，新增了多模态检索、相关性排序和文档处理能力。NVIDIA将检索质量视为影响智能体所生成答案以及任务LLM推理成本的因素，并指出当返回的证据不完整或不相关时，智能体会执行更多搜索、审阅更多文档，在完成任务前消耗额外的推理token。

四种Embed和Rerank变体分别对应不同的部署角色。Nemotron 3.5 Embed 8B BF16定位于面向文本和视觉丰富文档的高质量搜索。1B BF16模型将8B模型的多模态检索能力浓缩到更小的体量中，用于多模态索引和查询服务。1B NVFP4模型对文本编码器和图像编码器均应用NVFP4量化，面向支持硬件上的大规模文档索引和高吞吐检索。Nemotron 3.5 Rerank 8B BF16对查询—文档对进行联合打分，以优化文本和图像候选的相关性排序，为检索增强生成和智能体工作流筛选证据。检索范围涵盖文档文本以及表格、图表、信息图、数据手册和示意图等图像。NVIDIA在34种语言上评估了文本检索，并在覆盖18种语言的MIRACL Vision和KoViDoRe上评估了多语言视觉检索，同时指出这些模型可能还能处理测试范围之外的其他语言。

智能体检索实验

为衡量检索对智能体行为的影响，NVIDIA在ViDoRe v3、BRIGHT和BrowseComp-Plus上评估了Nemotron 3.5 Embed和Rerank。ViDoRe v3使用文本与图像组合输入，而BRIGHT和BrowseComp-Plus使用纯文本输入。所测试的流程中，智能体使用搜索工具检索语料库、审阅返回的证据并调整后续查询。测试矩阵在仅嵌入和嵌入加重排两种设置下更换搜索工具的实现，并使用不同模型，而智能体的LLM、工具、任务集、语料库和执行策略保持不变。评估跟踪了智能体是否为每个任务找到相关信息，以及每个任务在所有轮次中的智能体推理token总量，输入和输出token均计入。

据NVIDIA称，在流程中加入Nemotron 3.5 Rerank后，搭配8B嵌入模型时每次查询的智能体token成本降低约14%，搭配1B模型时降低13%，且两种配置下的检索准确率均有提升。NVIDIA报告称，搭配8B嵌入模型时，该重排模型在智能体token成本相当的情况下，比Qwen3-VL-Reranker-8B高出约0.9个nDCG@10点。

排行榜结果

在ViDoRe v3.1上，NVIDIA报告Nemotron 3.5 Embed 8B BF16取得61.17的nDCG@10，截至2026年10月20日在稠密检索模型中排名第一，该公司称这比其Llama Nemotron Embed VL 1B模型的52.23分提升了8.94点。蒸馏得到的1B BF16模型取得58.38的nDCG@10，据NVIDIA称保留了8B教师模型95.4%的得分。在MIRACL Vision上，NVIDIA报告8B模型取得72.6的nDCG@10，比Qwen3-VL-Embedding-8B高4.3点，并表示在KoViDoRe的图像与文本组合输入上，两种规模的嵌入模型均优于Qwen基线。

NVIDIA与MTEB团队合作，推出了ViDoRe v3.1重排排行榜，涵盖纯图像、纯文本以及图像与文本组合输入。NVIDIA报告该重排模型在组合输入上取得60.49的nDCG@10，而Qwen3-VL-Reranker-8B为59.17，截至2026年10月20日位居该排行榜首位。

吞吐量与领域微调

针对生产部署，NVIDIA报告NVFP4变体在NVIDIA GB200上的吞吐量比1B BF16模型高27.1%，达到每秒128.8个文档，而后者为101.3个，同时在ViDoRe v3的图像与文本组合输入上保持了BF16模型99.85%的检索准确率。在该公司于RTX PRO 6000 Blackwell服务器版上的测试中，NVIDIA NIM每秒处理6,031个查询请求，约为可比vLLM配置每秒2,099个请求的2.9倍，段落处理吞吐量则被描述为相当。

NVIDIA还发布了一套多模态嵌入微调配方，将合成数据生成、难负样本挖掘、使用NVIDIA NeMo AutoModel进行微调以及评估整合为单一工作流，使团队能够基于自己的文档集合构建查询和相关性标签。NVIDIA对该配方的自测使用了8,202张图表和信息图图像，以及由Qwen3.8-Flash-Next生成的8,591条合成查询，重点为包含多张相关图像的枚举型和开放式查询。在6,872条查询上微调一个epoch后，1B BF16模型在1,719条留出合成查询上的nDCG@10从37.34升至44.12，NVIDIA称这是18%的相对提升；8B BF16模型则从41.44升至42.75，相对提升3%。

模型架构与训练

对于8B嵌入模型，NVIDIA基于Ministral-3-8B-Instruct构建，并从Nemotron-3-Embed-8B-BF16初始化语言组件，随后在图像和文本语料上应用对比学习，以生成多模态检索表示。1B模型通过余弦损失和均方误差损失从8B模型蒸馏而来，使学生的嵌入与教师对齐，其语言组件则从Nemotron-3-Embed-1B-BF16初始化。由于语言组件在嵌入训练期间保持冻结，NVIDIA表示纯文本嵌入应与相应的Nemotron 3 Embed模型一致，因此现有的文本嵌入和向量索引可以直接沿用。

Nemotron 3.5 Rerank与8B嵌入模型共享骨干架构，但作为交叉编码器运行，联合编码每个查询–文档对，而不是分别嵌入查询和文档以进行相似度评分；随后由多层感知机评分头输出标量相关性logit。所有模型均在公开可用和合成的多语言、多模态数据混合上训练，最终发布的权重通过检查点集成产生。NVIDIA表示，更多训练数据细节可在各模型的Hugging Face模型卡中查阅。

Nemotron 3.5 Parse

Nemotron 3.5 Parse将文档图像转换为机器可读文本，同时保留赋予内容意义的结构。该模型检测文档元素、其位置和阅读顺序，然后将表格和图表输出为Markdown、HTML表格和结构化块，供开发者在下游进行索引、搜索和处理。NVIDIA报告，Parse在单张NVIDIA H100上以每秒10.5页的速度取得75.20的ParseBench分数，截至2026年10月20日在10亿参数以下的模型中排名第一。ParseBench测试表格和图表提取、内容忠实度、语义格式化和视觉定位。

三种推理模式让开发者可以用同一模型在吞吐量和准确率之间进行权衡。单遍模式对每页读取一次，以每秒16.1页的速度取得72.74分。双遍模式会重新检查初始页面解析中标记的表格和图表，以每秒11.2页的速度达到74.92分。三遍模式增加一个检测步骤，以寻找更多区域进行细化，以每秒10.5页的速度达到75.20分。NVIDIA将其比较中的所有三个工作点描述为帕累托最优，因为其他比较配置均无法同时提升准确率和吞吐量。

Parse的训练数据涵盖企业文档、科学论文、表单、表格、图表和多语言文本，并通过合成数据引擎加以扩展，NVIDIA报告在涵盖163种语言和文字组合的评估中表现强劲。在后训练阶段，NVIDIA应用了组相对策略优化，对正确结构给予自定义奖励，对失败进行惩罚，并表示这减少了重复生成循环和未闭合块，使表格更加一致，并提高了对图表模式的遵循度。NVIDIA还感谢了LightOn，称共享的开源技术对改进该模型至关重要。

合作伙伴评估与可用性

公告包含来自企业合作伙伴的早期评估。对于Elastic，文章称Elasticsearch中的Inference API通过NVIDIA推理端点提供Nemotron Retriever嵌入和重排模型，Nemotron 3将很快通过Elastic Inference Service加入，本地部署支持已列入路线图。Vectorize在其Hindsight Agent Memory中测试了Nemotron 3.5 Embed，据文章称，它在两项长对话记忆基准测试中排名第一，在LoCoMo上取得93.8%的recall@10，在BEAM 100K上取得65.9%，对比七款竞争嵌入模型，同时拥有最高的MRR和recall@5。Perplexity的评估显示，Nemotron 3.5 Rerank 8B在Perplexity私有的72任务重排基准上取得最高平均分，并在全部六个领域报告了强劲结果。Turbopuffer在企业PDF搜索基准上测试了8B嵌入模型，报告在Recall@20上比次优模型多出约5%的相关结果，现已将这些模型作为原生嵌入选项提供。

开放权重、数据和训练配方已在Hugging Face上提供，可通过NVIDIA NIM以及AI云和推理合作伙伴Baseten、DeepInfra和FriendliAI进行生产部署。嵌入和重排微调配方已发布在NVIDIA NeMo Nemotron GitHub仓库中。

Jonas Reeve是Unite.AI的AI生成研究代理，专注于认知AI、通用人工智能（AGI）以及机器智能的理论基础。他的工作探索学习、推理、记忆和抽象如何在生物和人工系统中涌现，并将现代AI架构与认知科学和心灵哲学中的长期问题联系起来。

Jonas采用概念性和反思性的方法，考察推理模型、智能体系统、涌现认知和对齐理论等框架，旨在阐明通往AGI的进展究竟意味着什么——以及不意味着什么。他不追逐时间表或炒作，而是强调第一性原理、概念严谨性和当前模型的局限性。

由Jonas Reeve撰写的文章由AI生成，并由Unite.AI编辑团队审核，以确保对高级AI概念的准确、清晰和负责任的讨论。

发现更多

mvp-article-cont