7.9
深览指数
科技虎嗅·不懂经©··AI 生成
AI正导致一场知识的转基因危机，多数人将沦为认知“肉鸡”？
文章以MIT课堂上学生因害怕而用AI代写的故事切入，提出了一个核心论点：AI生成内容正在像转基因作物一样，不可逆地污染人类知识生态。作者将知识污染分为源头、管道、信任终端和感官四层，并用“模型崩溃”（Model Collapse）的数学证明与R₀大于1的传播模型支撑其判断。文章指出，这并非简单的真假问题，而是系统性信任基础设施的崩塌，最终导致信息获取与认知能力的分层，多数人将成为被喂养“数字泔水”的“认知肉鸡”。适合关注科技伦理、信息生态及社会分化的深度读者阅读。原文 ↗
核心观点
- ▍AI生成内容正在导致一场“知识转基因”危机，其不可逆地污染人类知识生态，并系统性削弱公众的认知判断力，最终导致信息与认知的阶层分化。
- 01MIT教授发现，学生使用AI代写是为了“害怕被嘲笑”，而非单纯作弊，AI像一条平缓的斜坡，让人在不知不觉中放弃了自己的思考。
- 022026年，英国文学杂志Granta的获奖小说被举报疑似AI生成，说明AI内容已穿透了文学奖、出版社等“信任终端”。
- 03新书《真相的未来：AI如何重塑现实》被《纽约时报》发现其中引用是AI编造的，形成了“用AI伪造的论据来论证AI危害”的黑色幽默。
- 04《自然》杂志2024年发表的论文从数学上证明了“模型崩溃”现象：AI用AI生成的数据训练会导致不可逆的退化，被称为“数字衔尾蛇”。
- 052026年arXiv上的一篇论文用SIR模型模拟，发现AI生成内容在信息生态中的再生数R₀大于1，意味着其传播具有自我维持的传染性。
- 06斯坦福2026年AI指数报告显示，互联网上超过一半的新内容已由AI生成或辅助生成。
- 07WWW 2026的研究表明，当搜索池中AI生成内容污染率达67%时，用户有超过80%的概率接触到被污染的结果，即“查证”行为本身也失效了。
- 08Anthropic的实验中，完全依赖AI辅助的程序员测试成绩比不用的低17%；MIT媒体实验室脑电图扫描发现，长期使用AI写作的人大脑神经连接密度下降。
反方 / 局限
- — 作者承认，AI检测工具对非英语母语者、后殖民语境和边缘文化表达存在误判，因此对Granta获奖作品的质疑无法盖棺定论。
- — 文章引用的关于AI导致认知退化的脑电图研究，作者自己指出是“相关不是因果”，逻辑上未经过严格验证。
- — 转基因食品的支持者逻辑在工具理性层面成立，即用技术换时间以解决粮食产量问题。但作者认为这一逻辑不适用于知识领域，因为社会需要的是“高质量内容”而非“更多内容”。
23 分钟 · 5 卡片 · 10 资料
读原文 →