科技Bestblogs·Yauhen Babakhin, Ronay Ak, Jiarui Cai, Vinay Raman, Radek Osmulski, Jakub Zakrzewski, Anmol Gupta, Oliver Holworthy, Sahel Sharifymoghaddam, Khang Pham, James Rong, Steve Han, Sean Sodha, Isabel Hulseman, Bo Liu··AI 生成
NVIDIA Nemotron 3 Embed 在 RTEB 上排名第一，推动智能体检索发展
NVIDIA 发布 Nemotron 3 Embed 开放嵌入模型系列，其 8B 变体在 RTEB 排行榜上以 78.5% 的得分登顶。文章强调，更优的检索不仅提升准确率，还能显著降低下游多步智能体系统的 Token 成本。该系列还包含 1B 的 BF16 和 NVFP4 版本，旨在质量和部署效率间取得平衡，并已获得 Hugging Face、NVIDIA NIM 及主流云平台的支持。适合关注 RAG 技术、嵌入模型选型及 AI 工程化落地的技术决策者阅读。原文 ↗原文 ↗
核心观点
- ▍Nemotron-3-Embed-8B-BF16 在 RTEB 排行榜上以 78.5% 的得分排名第一，为 RAG 和智能体检索设立了新的性能基准。
- ▍更优的检索能直接降低下游智能体系统的 Token 成本，因为高准确率检索器能更早返回相关证据，减少多步推理中的重复搜索和不必要轮次。
- 01Nemotron-3-Embed-8B-BF16 在 RTEB 上得分 78.5%，在 MMTEB 检索得分 75.5%。
- 021B 的 NVFP4 变体利用 Blackwell 架构的原生加速，在降低内存占用的同时，保留了 BF16 检索准确率的 99% 以上。
- 03该模型系列首日即获得 NIM 微服务、vLLM 及 Hugging Face 等生态集成支持，允许在 GPU、CPU 和 Blackwell 硬件上立即部署。
- 04技术细节包括架构调整、剪枝-蒸馏训练管道，以及将上下文窗口扩展至 32k tokens。
反方 / 局限
- — 文章未提及 Nemotron 3 Embed 在其他非 RAG 或非长上下文任务上的表现，也未与如 OpenAI 的 text-embedding-3 等闭源商业模型在同一基准上做直接对比。
前置背景
技术原理
平行视角
未来推演
延伸追问