NVIDIA 于 10 月 21 日在 Hugging Face 博客宣布扩充 Nemotron Retriever 模型集,新增三款嵌入模型、一款重排序模型和一款文档解析模型,均以开源、可商用形式提供,面向企业级智能体的多模态检索与文档处理流程。
新增型号包括 Nemotron 3.5 Embed 8B BF16、1B BF16 和 1B NVFP4,Nemotron 3.5 Rerank 8B BF16,以及参数量为 631M 的 Nemotron 3.5 Parse。NVIDIA 称,这些模型把多模态检索、相关性排序和文档处理一并带入企业智能体工作流。
据该博客文章说明,检索质量同时影响智能体给出的答案和推理开销。当检索到的证据不完整或与问题无关时,智能体会重复搜索并查阅更多文档,在完成任务之前消耗更多推理 token;在企业规模下,这类浪费会形成明显的效率损失。重排序的作用是提高进入智能体上下文的证据质量。
为衡量检索对任务完成的影响,NVIDIA 在 ViDoRe v3、BRIGHT 和 BrowseComp-Plus 上评测了 Nemotron 3.5 Embed 与 Rerank,其中 ViDoRe v3 使用文本与图像混合输入,另外两个基准为纯文本。评测中,智能体通过搜索工具查询语料、检查证据,并据此调整下一次检索;驱动智能体的 LLM、工具、任务集、语料和执行策略保持不变,只改变检索配置,包括仅用嵌入、嵌入加重排序以及不同的模型组合。衡量指标为智能体找到任务相关信息的成功率和每任务智能体推理 token 总量,计入所有轮次的输入与输出 token。
NVIDIA 公布的结果是,在 Nemotron 3.5 Embed 8B 基础上加入 Nemotron 3.5 Rerank,每次查询的智能体 token 成本下降约 14%;搭配 Nemotron 3.5 Embed 1B 时下降约 13%,两种配置的检索准确率同时提升。以 Nemotron 3.5 Embed 8B 作为检索器时,Nemotron 3.5 Rerank 的 nDCG@10 比 Qwen3-VL-Reranker-8B 高约 0.9 点,而智能体 token 成本相近。
四款嵌入与重排序模型按部署需求分工。8B BF16 版本侧重检索质量,用于对文本与视觉内容丰富文档的搜索;1B BF16 版本把 8B 模型的多模态检索能力蒸馏到更小体量,适合索引与查询服务;1B NVFP4 版本对文本编码器和图像编码器均做量化,面向支持硬件上的大规模文档索引与高吞吐检索;8B 重排序模型作为交叉编码器,对查询与文档配对联合评估,从候选集中筛选进入检索增强生成和智能体流程的证据。
在功能上,这批模型可检索文档文本,也可检索包含表格、图表、信息图、数据表和示意图的图像内容。文本检索在 34 种语言上做了评测,多语言视觉检索则在 MIRACL Vision(18 种语言)和 KoViDoRe 上评测,NVIDIA 表示模型可能支持评测范围之外的其他语言。Nemotron 3.5 Embed 建立在此前的 Nemotron 3 Embed 文本嵌入模型之上。博客给出的示例任务是识别下一季度可能缺货的产品并解释原因,需要综合图表中的需求预测、表格中的库存水平和报告中的供应商交期,再判断补货能否在库存耗尽前到位。