8.8
深览指数
人文虎嗅·不懂经©··AI 生成
比超级智能更先到来的，是超级愚蠢
本文从一个AI公司创始人讲错典故的细节切入，提出一个反直觉的核心观点：AI带来的真正风险不是让人变笨，而是生产一种新型的、结构精良的「聪明愚蠢」。文章援引复杂系统科学家大卫·克拉考尔的理论，区分无知与愚蠢，指出愚蠢是智力的产物，且其威力随智力增长。作者进一步从「时差」视角解释，我们的判断规则（流畅可靠、自信可靠、有答案即理解）在AI时代集体过期；最危险的不是人们相信AI，而是怀疑普及后避免核实，堕入犬儒主义。文章最后追溯历史脉络，提出建立一门与智能科学同样严谨的「愚蠢科学」的必要性。适合关注AI社会影响、认知科学、批判性思维的高知识水位读者。原文 ↗
核心观点
- ▍AI时代真正的风险不是让人变笨，而是生产一种全新的、结构精良的「聪明的愚蠢」：即动用全部智力资源，为错误的答案和前提搭建精妙的论证大厦。
- ▍我们面临的不是个体能力的退化，而是旧有的判断规则在AI环境中「过期」了：流畅、自信、有答案即等于理解，这些在信息稀缺时代可靠的信号，在AI时代已免费且失效。
- 01Anthropic联合创始人杰克·克拉克在电台讲述C.S.刘易斯《魔鬼家书》里「电话」的故事，但该故事时间（不是一百年前）、角色（不是小鬼）和细节（全书无电话）几乎全是错的，且未被当场发现。
- 02金融时报专栏作家蒂姆·哈福德在核实刘易斯「让收音机一直响着」的出处时，被谷歌Gemini二次误导，错误归因到《魔鬼家书》。
- 03复杂系统科学家克拉考尔提出定义：无知是空白，愚蠢是通过精妙的智识建构（理论、算法、信念）把本来困难的问题变得更糟。猫狗的愚蠢是有限的，人类因有语言和制度，能在文明尺度上创造愚蠢。
- 04作者以「飞蛾扑火」类比：飞蛾的导航系统（对月光保持固定角度）没坏，但世界（人工光源出现）变了，执行旧规则反而导致死亡。类比到人类，旧规则（流畅可信、自信可信）在AI时代同样变成致命陷阱。
- 05AI真正的风险不是让人们完全信任它，而是让人们在理论上保持怀疑，但行动上放弃核实。怀疑被养在理论层面，发酵成不受骗也不求真的犬儒主义，进而侵蚀「解释分工」和求知欲。
- 06文章梳理了从伊拉斯谟《愚人颂》、斯威夫特、穆齐尔、潘霍华到意大利经济史家《人类愚蠢基本法则》的历史脉络，指出「愚蠢研究」从未成为正规学科，因为其要求承认研究对象就是自己且难有产出。
反方 / 局限
- — 作者承认，「每一代人都担心新工具使人退化」的叙事（如苏格拉底担心文字削弱记忆）常被历史部分证伪，本文的「过期规则」论是否能逃脱同样的命运，有待时间验证。
- — 文章的核心论据「杰克·克拉克讲错故事」本身就有反方视角：他讲错的内容是文学典故，而非技术原理，且这个错误恰好被主持人在节目后更正，并未造成实质危害，说明人类纠错机制仍能起作用。
杰克·克拉克克劳德（Claude）AnthropicC.S.刘易斯《魔鬼家书》蒂姆·哈福德金融时报大卫·克拉考尔圣塔菲研究所罗伯特·穆齐尔伊拉斯谟开尔文勋爵莱特兄弟《格列佛游记》潘霍华《人类愚蠢基本法则》Gemini《银河系漫游指南》
12 分钟 · 5 卡片 · 10 资料
读原文 →