8.4
深览指数
科技虎嗅·智远同学··AI 生成
企业该买模型还是养上下文？
文章直击企业AI采购的核心迷思：所谓「专有模型」实际包含自训、微调、私有部署、上下文四类，前三者是会贬值的商品，只有「上下文」（企业独有的数据、口径、流程判断）是越用越值钱的资产。作者通过彭博自训失败、SAP记忆层、Palantir应用层等案例，论证企业应将预算从模型采购转向数据治理与知识沉淀。适合正在规划AI预算或已陷入采购焦虑的企业决策者阅读，帮其分辨供应商「混着卖」的话术。原文 ↗
核心观点
- ▍所谓「专有模型」包含四类：自训、微调、私有部署、上下文；前三者是会贬值的商品，只有「上下文」（企业独有的数据、口径、流程判断）是越用越值钱的资产。
- ▍企业不应在模型能力上重复投入，而应将预算和精力花在整理自家数据、定死口径、沉淀老师傅的隐性知识上——这些事没有供应商能替代。
- 01彭博2023年从零自训500亿参数金融模型（130万GPU小时），三年后其终端产品负责人承认该模型「从未在任何产品中用过」；终端实际跑的是商业模型+开源模型混合，在金融基准上通用模型以76:43反超。
- 02SAP将客户几十年积累的流程/规矩/审批记录收进「Company Memory（公司记忆）」，让AI干活前先读家规，人工纠正也会教给下一轮。
- 03Palantir CEO直言该公司「在模型上完全无关」，其价值在模型之上的应用层（本体），客户涵盖银行、药厂、军队。
- 04法律AI公司Harvey未自训基础模型，而是将法律行业的话术、案例、流程全部转化为自身上下文，客户覆盖大半个顶级律所圈。
- 05VentureBeat 2024年6月调研显示，73%的微调项目未上线或中途失败；45%的企业卡在「沙盒坟场」，模型停留在开发环境。
- 06信通院报告指出82%的企业倾向私有部署，但各地智算中心平均利用率仅58.3%，西部部分地区不到三成；中部某省规划1200P算力，实际需求不到200P。
- 07韩国政府主权AI项目要求从零自研，NAVER因使用了阿里视觉编码器被淘汰；但半年后NAVER仍是韩国最大主权AI工厂主角，出资方是英伟达——揭示「主权」的三层结构：模型层（过关但偏弱）、机房层（满分）、芯片/软件栈/生态层（无人及格）。
反方 / 局限
- — 作者承认微调在特定条件下有效：任务稳定、数据量够大、评测跟得上——「做成的那27%，条件也苛刻」。
- — 私有部署适用于金融/政务/医疗等数据敏感场景，作者并不全盘否定，但指出「先保证数据不出门，再谈聪明」的优先级。
- — 文章隐含一个前提：企业有能力识别并沉淀「上下文」。实际很多企业的流程不规范、数据混乱，整理成本可能高于直接买模型。
11 分钟 · 4 卡片 · 10 资料
读原文 →