7.9
深览指数
科技腾讯新闻·澎湃新闻··AI 生成
微软CEO纳德拉告诫企业：使用模型越频繁 就等于输送免费企业机密信息
微软CEO萨提亚·纳德拉发文提出'逆向信息悖论'：企业为使用AI模型支付了两次费用，一次是金钱，另一次是披露私有知识。模型供应商通过客户的使用数据（提示词、错误纠正等'尾气'）持续学习，而企业却无法反向获取价值。纳德拉以此批评顶级AI实验室（暗指Anthropic）在数据保护和模型蒸馏监控上的'双标'行为。文章适合正在或计划将AI深度嵌入核心业务、但未充分评估数据安全与知识产权的CIO/CTO/企业高管阅读。原文 ↗
核心观点
- ▍企业使用AI模型面临'逆向信息悖论'：为了获得智能服务，企业必须披露私有知识，使用越频繁、期望越高，流失的机密信息就越多，最终造成知识与经济价值向模型供应商单向聚集。
- 01纳德拉引用诺贝尔经济学奖得主阿罗的经典'信息悖论'，指出AI时代问题反转：过去卖方面临'为卖出知识而不得不免费送出知识'的风险；现在买方（企业）面临'为使用产品而不得不免费送出知识'的风险。
- 02AI模型的关键学习来源是'尾气'（exhaust），包括企业员工编写的提示词、智能体使用的工具，以及模型犯错时人类所做的纠正。纳德拉称这些是'竞争对手永远买不到的知识，企业却在拱手相让'。
- 03Anthropic被曝光在编程工具Claude Code中嵌入隐形代码，通过修改系统提示词秘密传输用户位置等信息，官方解释为'防止未经授权的转售商滥用账户并防范蒸馏行为'。
- 04埃隆·马斯克曾公开批评Anthropic'大规模窃取训练数据，并因此支付了数十亿美元和解金'。
- 05头部AI公司（Anthropic、OpenAI、谷歌）正对'蒸馏'施加限制性条款，同时保留从客户交互数据中学习的权利，纳德拉认为这是典型的'双标'。
- 06纳德拉提出解决方案：企业需要建立'信任边界'，在该边界内数据、痕迹、评估、调整后的权重和记忆得以共同积累，未经许可任何东西都不能跨越，包括智能'尾气'。
反方 / 局限
- — 纳德拉的论述隐含一个前提：模型供应商必定且持续窃取客户数据用于自身模型迭代。但现实中，部分企业级AI产品（如微软Azure OpenAI服务）已提供'数据不用于训练'的承诺，供应商与客户之间存在差异化合同条款，而非单一模型。
- — 纳德拉未讨论企业自身的数据治理能力——如果企业能有效管理提示词、对敏感信息进行脱敏、在模型输出后做本地化后处理，'尾气泄露'的风险可被大幅降低。文章将风险归结为模型供应商的恶意，忽略了企业主动防御的可能性。
4 分钟 · 4 卡片 · 9 资料
读原文 →