7.7
深览指数
科技TechCrunch·Julie Bort··AI 生成

Salesforce 与 Nvidia 的新推理模型正是 AI 实验室应该害怕的东西

Salesforce 与 Nvidia 合作推出了首个推理模型 Koa,基于 Nvidia 的开源 Nemotron 模型进行后训练,专门优化销售、营销和客服任务。Koa 提供了一个开箱即用的、企业级的安全替代方案,针对特定工作场景比 Claude 或 ChatGPT 更高效、更便宜。这标志着企业 AI 需求正与前沿 AI 实验室的路径(如捆绑销售、通用大模型、高昂成本)产生根本性分歧。文章对 Koa 的核心差异点(开源、安全、专用、低成本)做了清晰列举,适合关注企业 AI 战略的决策者阅读。原文 ↗

核心观点
  • Koa 代表了企业 AI 需求与前沿实验室路线(如 OpenAI、Anthropic)的根本性分歧:企业要的是安全、廉价、专用于任务的模型,而不是昂贵、通用、数据不透明的黑盒。
  1. 01Koa 基于 Nvidia 的 Nemotron 模型,是 Salesforce 首个自研推理模型,针对销售、营销、客服等企业任务专门后训练。
  2. 02Koa 提供了六个核心差异化:开源权重、专用任务训练、不摄入客户数据(防泄露)、更少的 token 消耗(降低成本)、可通过 AI 网关自动路由、遵守 Salesforce 内的安全要求。
  3. 03Salesforce 之前依赖 Claude 或 ChatGPT 处理需要推理的复杂任务;Koa 出现后,这些任务可以路由到自己的模型,从而节省成本并减少对外部 API 的依赖。
  4. 04Salesforce 和 Nvidia 后训练时并未使用客户真实数据,而是生成了模拟客户服务环境的合成数据,包括模拟愤怒顾客、销售谈判等场景。
  5. 05Koa 的目标是比 Claude 或 ChatGPT 更便宜(token 效率高)且更适合企业工作,而非解决“不可能的数学问题”。
  6. 06Salesforce 并非完全抛弃 Anthropic,同时与 Anthropic 推出了合作伙伴项目“Claudeforce”,允许企业将 Claude 作为 AI 界面,数据仍保留在 Salesforce 系统中。
  7. 07Saleforce 此前未自研推理模型的原因是缺乏一个“主权级美国预训练模型”——Nemotron 的出现解决了这个空白,且数据溯源清晰(因此供应商可放心使用)。
反方 / 局限
  • Koa 的性能仍需实际的大规模企业部署验证;合成数据模拟能否完全覆盖真实客户场景的复杂性和边缘情况,存在不确定性。
  • 文章未讨论 Koa 在复杂推理任务上与 Claude 或 GPT-4 等前沿模型的客观性能对比,仅强调效率和成本优势。
9 分钟 · 4 卡片 · 9 资料
读原文 →

前置背景

平行视角

未来推演

延伸追问