8.3
深览指数
人文FT 中文网··AI 生成
机器的喜好陷阱：从“人工智能谄媚”到“谄媚人工智能”
本文揭示了 AI 系统与人类之间双向的“讨好”机制，重点转向人为了获得 AI 筛选的可见性，主动调整自身表达以适应机器偏好的趋势。通过引用 GEO 优化、简历筛选代理、文本生成同质化等研究，作者指出这不仅是内容层面的 SEO 演变，更是对人的预选与排序，可能导致个体在“理性迎合”中走向集体趋同，而那些处于“尾部”的少数派被系统性挤出。文章提供了一个超越“AI 谄媚”的视角，探讨了可见度、准确性与更正权等深层问题，适合关注技术社会影响、平台权力及人力资源从业者阅读。原文 ↗
核心观点
- ▍问题的核心已经从“AI 如何谄媚人类”转向“人类如何为了获得 AI 筛选的可见性而主动谄媚 AI”，这是人与机器之间双向调适的新阶段。
- ▍AI 的偏好不仅影响网页内容的创作（GEO），更扩展到对人的预选，通过简历过滤、代理交易等机制，使个体在初次接触前就被机器不透明地排序。
- 01Pew Research Center 2025 年 7 月的研究显示，出现 AI 摘要的页面，传统搜索结果的后续访问比例为 8%，没有的为 15%，AI 摘要所引来源的后续访问比例约为 1%，揭示了 AI 答案带来新的流量与可见性权力。
- 02GEO（生成式引擎优化）论文显示，为网页加入引语、统计数据和来源引用，最多可使其在 AI 答案中的可见度提升约 40%，而传统关键词堆砌基本无效。
- 03华盛顿大学团队 AIES 2024 的研究表明，在简历匹配中，仅改动姓名，白人关联姓名被偏好的比例为 85%，黑人关联姓名仅为 9%，显示出 AI 筛选可能放大种族偏见。
- 04《美国国家科学院院刊》2025 年研究发现，GPT-3.5、GPT-4 等模型在商品描述、论文摘要中一致倾向于偏好 AI 生成的文本，最高接近九成，存在“AI–AI 偏差”。
- 05马里兰大学研究显示，将简历摘要改为模型改写版本后，较大模型偏好自己改写简历的比例达 67%-82%，模拟招聘中入围概率高出 23%-60%。
- 062024 年《科学进展》实验显示，使用 AI 构思的微故事被评价为更有创意，但彼此间文本相似度更高（增加约 10.7%），形成“每个人都更好，所有人却更像”的困境。
- 072024 年《自然》研究指出，模型反复以前代生成数据训练会丢失原始数据分布中的“尾部”，即少见但真实的表达，形成自我强化的回路。
反方 / 局限
- — 作者未探讨 GEO 本身作为一种竞争工具，是否可能被滥用（如制造高质量假信息以提高可见性），也未讨论监管机构介入的可行性与潜在副作用。
- — 文章引用的实验室模拟（如 Magentic Marketplace）和受控实验（如简历改写）能否完全映射到真实世界的高风险招聘与交易场景，存在不确定性。
Generative Engine OptimizationTaina BucherTarleton GillespieMagentic MarketplaceOpenAI微软研究院华盛顿大学马里兰大学
8 分钟 · 5 卡片 · 12 资料
读原文 →