7.5
深览指数
科技腾讯新闻··AI 生成
OpenAI“Lily计划”曝光 你的聊天记录可能正在被人工审核
外媒调查揭露，OpenAI 正在推进代号为“Lily计划”的项目，组织数百名外包人员秘密阅读和评分真实用户的 ChatGPT 对话记录，以训练模型减少“讨好型”人格、提升回复质量。尽管 OpenAI 声称会对提问进行脱敏处理，但该机制在数据隐私、用户知情权及数据脱敏有效性方面引发严重争议。绝大多数用户对此毫不知情，且改进模型的选项默认开启。本文适合关注 AI 伦理、产品隐私设计与数据监管的读者阅读。原文 ↗
核心观点
- ▍OpenAI 正在实施“Lily计划”，其核心是使用大量人工外包审核员对真实用户的 ChatGPT 对话记录进行评分和点评，以训练模型避免拟人化、讨好用户以及不当使用表情符号等行为。
- ▍绝大多数 ChatGPT 用户（超过9亿）并不知道自己的聊天记录可能会被人类阅读和审核，这引发了严重的隐私和知情权争议。
- 01外媒获得的文件显示，审核员的工作流程包括：阅读用户提问、总结用户需求、并对 ChatGPT 的4种回复进行1-7分的评分和点评。
- 02OpenAI 承认其用于移除个人信息的“隐私过滤器”模型会出错，可能遗漏罕见标识符或模棱两可的私密表述；且有名为“记忆汇总”的功能可能泄露用户个人背景。
- 03审核指导手册明确要求避免 AI 回复使用“作为一名厨师，我喜欢...”、“我懂那种感受”等个人化表述，以及在与死亡、空难等场景无关时滥用表情符号。
- 04OpenAI 的改进模型选项在免费版、Plus 和 Pro 账户中默认为开启状态，用户必须手动关闭，且该设置仅作用于新对话。
- 05参与项目的审核员时薪超过50美元，经招聘机构 Crosssing Hurdles 转送至 AI 训练公司 Mercor 后向审核员发放薪水，Mercor 在2026年4月曾遭遇数据泄露。
- 06谷歌 Gemini 和 Anthropic 的 Claude 同样在使用人工审核员来改进模型，这表明人工审核是行业普遍但隐蔽的训练环节。
反方 / 局限
- — OpenAI 回应称，企业在用户关闭“改进模型”选项后不会使用其聊天记录，且企业版、商业版和教育版用户该选项默认为关闭，这在一定程度上缓解了部分商业用户的隐私顾虑。
- — 文章提到，人工审核对于确保聊天机器人安全可能至关重要，说明该机制在安全与隐私之间存在难以调和的张力。
9 分钟 · 4 卡片 · 7 资料
读原文 →