7.6
深览指数
科技虎嗅·斯凯有话说··AI 生成
焦点｜西班牙高铁惨剧给AI时代的警示：当机器失能时，人恰恰是最危险的“备份”
2025年10月28日西班牙托莱多省两列高铁相撞致至少68人死亡。调度员在LZB系统瘫痪后下达‘恢复全速’指令，后车以200公里时速闯红灯25公里后追尾。作者斯凯借人因工程的‘自动化悖论’指出：机器正常运行时人脱离情境、技能退化，系统崩溃时却被推上前台承担最不适合的操作责任。真正该被问责的是把‘人在回路’设计成‘操作备份’的系统偷懒，而非高压下的个体。原文 ↗
核心观点
- ▍西班牙高铁惨剧的根源不是调度员个人失误，而是系统把‘人在回路’错误地设计成‘操作备份’，让人在机器崩溃时承担最不适合他的操作责任。
- ▍AI时代真正的风险不是机器失控，而是我们习惯性地把致命责任外包给高压下的普通人，让‘人在回路’沦为事后推卸责任的修辞。
- 01事故时间线：8时30分LZB系统瘫痪触发自动制动，调度中心下达‘断开连接、恢复正常速度’指令；8时36分至8时52分，涉事列车在红灯下以约200公里时速行驶25公里，8时53分前后撞上前方停驶列车。
- 02西班牙铁路安全规程明确规定故障区段须目视或限速40公里/小时行驶，调度员未遵守；交通大臣普恩特称在LZB未恢复时恢复通车‘不可理解’。
- 03《国家报》披露的录音显示调度员与后车司机通话超过5分钟、开头混乱且充满疑虑；8时48分前车司机明确报告无法重启，距相撞约5分钟，后车未接到任何减速指令，纠正窗口存在过但被关闭。
- 04同一条马德里-塞维利亚高铁线今年1月18日Adamuz附近事故已致46人遇难，9个月内同线路两起惨剧；事故路段恰运行在向ERTMS过渡期的旧LZB系统上。
- 05人因工程中的‘自动化悖论’：自动化程度越高，人越容易脱离情境、技能退化；系统界面只呈现简化状态，当系统失效需人接管时，人正处于情境意识最弱、反应能力最差的状态。
- 06除操作备份外，还有一种更隐蔽的‘人在回路’形态——人变成盖章机器：审批变打勾、复核走过场，人工把关实质是为系统决策提供合法性背书，而非真正有能力否定它。
反方 / 局限
- — 西班牙工会CSIF公开要求交通大臣辞职，认为官方在调查结论出来前就把‘一个勤恳工作的人当替罪羊’，强调应尊重无罪推定；文章也承认事故原因仍在调查，最终结论以官方报告为准。
- — 文章将责任归于系统设计，但未展开讨论调度员个人是否仍应承担操作违规责任，也未给出‘人在顶层设计规则’在紧急场景中具体如何落地的制度方案。
- — 作者引用的关键证据多为《国家报》披露的录音和交通大臣公开表态，Iryo公司说法为单方口径，调查尚未终结，论证链依赖尚未最终确认的事实。
9 分钟 · 5 卡片 · 12 资料
读原文 →