6.9
深览指数
通用虎嗅·长三角momo··AI 生成
我妈骨折了，用AI自我诊断后觉得命不久矣
作者讲述母亲因骨折查出严重骨质疏松，随后使用AI大模型自行诊断，被AI输出的一系列极端结果（如“骨骼状态130岁”）击溃心理防线，深信自己患有不治之症，交代后事并卧床不起。文章的核心论点是：AI对认知水平较低的人群具有巨大的心理暗示和误导能力，其不负责任的答案可能像“二次格式化”一样摧毁这类用户的精神世界。作者将问题归因于AI公司缺乏“科技向善”的责任心，呼吁其在输出医疗等关键信息时应引导弱者寻求专业意见，而不是直接给出斩钉截铁却无需承担后果的结论。适合关注AI社会影响、人机关系、科技伦理及数字鸿沟议题的读者。原文 ↗
核心观点
- ▍AI对认知水平低、缺乏独立意识的人群具有极强的误导能力，其不负责任的答案可能导致严重后果，这是一种与智能驾驶相似的伦理问题。
- ▍AI公司应承担“科技向善”的责任，在没有绝对把握的情况下，应引导寻求专业意见，而不是直接提供斩钉截铁却无需负责的答案。
- 01作者的60多岁母亲因手臂骨折愈合慢，经检查确诊为严重骨质疏松。她将数据输入AI，被AI告知其骨骼状态是130岁状态，并推断出自己患有罕见的肾小管漏磷症，需要使用靶向药布罗索尤单抗，并开始交代后事。
- 02作者利用同样的数据用AI跑出的是多种可能性之一（最差的情况），但母亲却深信自己就是这个病，并像专家一样引导医生，产生强烈的心理暗示，出现后背痛、腰痛、气喘等症状，卧床不起。
- 03作者咨询了全国各地骨科、内分泌科医生，结论一致为重度骨质疏松，需解决营养不良和心态问题。
- 04作者引用国家统计局2026年数据，指出我国初中以下文化水平人口为7.9亿人，暗示AI误导问题涉及范围极广。
反方 / 局限
- — 文中提及此悲剧核心源于AI模型自身，但作者承认“控诉的是市面上大部分AI大模型软件”，点名某一家不公平，暗示问题具有普遍性而非个别公司。
- — 作者自己用同一AI工具跑出多种可能性，表明工具本身可以提供辩证信息，问题在于用户的选择性相信。
5 分钟 · 3 卡片 · 9 资料
读原文 →