7.4
深览指数
科技虎嗅·介心··AI 生成
“豆包对低认知人群有权威性”：仔细琢磨一下这话，不觉得脊背发凉吗？
本文从一个微博热搜事件切入，质疑“AI对低认知人群有权威性”这一论断。作者核心观点认为：不存在绝对的“低认知人群”，每个人在特定领域都是认知的“新手”；AI的权威性并非源于绝对真理，而是来自知识传播的跨界能力与信息细颗粒度对日常口诀的降维打击。文章进一步指出，“提高认知以防被AI误导”这一建议本身存在悖论，因为人们提问的恰是自身未知领域。最后，作者提出了一个暂时有效的判断工具——基于逻辑推演的符号学派AI，但指出这一武器也正在被当前主流的大数据学派AI所消解。适合关心AI社会影响、认识论与科技伦理的深度读者阅读。原文 ↗
核心观点
- ▍不存在绝对的“低认知人群”，只有“在某件事上认知较低的人”；每个人在大多数问题上相对于AI都是认知的“新手”，这是常态而非缺陷。
- ▍“提高认知以防被AI影响”的建议是自相矛盾的，因为它要求人们用自己现有的（不足的）认知去判断需要提升哪个领域的认知，陷入认识论悖论。
- 01一个微博热搜事件：家庭内部因“皮皮虾是否为发物”产生争论，有人建议“问问豆包”，引发全网关于AI权威性的讨论。
- 02普通人一生中仅涉及几十次重大决策（买房、签合同、看病等），每次都是在一个全新的领域，样本量不足使其永久处于“新手”状态。
- 03AI的权威感来源之一：知识的跨领域传播成本极低，而人类专家的知识被训练时长锁死在少数领域内。
- 04AI的权威感来源之二：信息的细粒度。“海鲜是发物”是一句去除了所有条件的压缩口诀，而AI给出的答案是带前提的说明（术后阶段、过敏史、药物等），这种细粒度对概括性的降维打击产生了权威感。
- 05作者引用了一位评论者的观察：AI（如豆包）的规整排版、先结论后论证、温和语气等表达优势，有效降低了用户的思考负担，从而建立权威。
- 06作者简述了当前主流AI（大数据学派）的工作原理：将自然语言拆分为词元（token），通过海量数据学习词元间的概率关联，生成回答的本质是基于概率的序列串联。
反方 / 局限
- — 作者承认，虽然符号学派AI（依靠预设公理与逻辑推理）可以作为判断AI输出真伪的暂时武器，但其有效性正在被大数据学派AI难以解释的“黑盒”特性所消解，例如陶哲轩的“黑盒AI治癌药”思想实验所揭示的困境：当AI有效却无法解释时，逻辑判断工具是否依然适用？
- — 文章暗示，“提高认知”建议的悖论可以通过外部提醒、吃亏、他人帮助等方式局部打破，但这些方式非系统化，依赖运气，作者并未给出系统性解法。
8 分钟 · 5 卡片 · 9 资料
读原文 →