7.3
深览指数
人文FT 中文网··AI 生成

何不解一道“世界永久和平”难题?

本文从AI灭绝人类的风险切入,但并未停留在技术监管层面,而是将其根源追溯至人类文明中暴力与合作的永恒张力:为什么明知AI可能毁灭人类,各国与公司仍陷入军备竞赛式的囚徒困境?作者以经济学、社会学与历史学视角,将AI风险重新框定为人类自身未解决的根本问题——如何将智慧用于和平与合作而非暴力竞争。文章核心判断是:AI的智力若真超越人类,不应只用来解数学难题,更应被引导去解决“世界永久和平”这一更高阶的难题。本文适合对AI安全、制度经济学或文明史有基础的读者,寻求跳出技术乌托邦与末日叙事的第三视角。原文 ↗

核心观点
  • ▍AI灭绝人类的风险并非AI固有,而是人类自身无法停止暴力竞争的囚徒困境被AI放大。真正的解法不是监管AI,而是解决人类如何达成永久和平这一古老难题。
  • ▍将智慧用于和平与合作是比用于暴力技术更高一阶的智慧;正确的技术发展应引导AI内化人类文明规则,而非复制黑猩猩的丛林法则。
  1. 01自2022年底ChatGPT发布后,马斯克、辛顿、Bengio等人士分别签署声明,要求暂缓AI研发或管制先进AI。到2026年,美国参议员桑德斯与肯尼迪分别提出禁止超级AI法案和“终止开关”法案。
  2. 02AI的负外部性与传统工业不同:它是无形的、扩散的、非线性因果的。AI可深度伪造、侵入网络、操纵选举、研制生化武器,且通过互联网无边界传播。
  3. 03AI已出现“自我进化”趋势:OpenAI的“自动化研究实习生”目标、Claude主导Anthropic 26%核心研发工作、谷歌DeepMind的“做梦式”自进化方法。
  4. 04政治层面形成对立:特朗普反对AI监管,认为是“骗局”且会让中国领先;中国也有论调称“美国喊暂停是阳谋大骗局”,双方陷入国家竞争导致的军备竞赛。
  5. 05人类暴力死亡率呈长期下降趋势:从旧石器时代10-20%降至21世纪的1%,证明将智慧用于和平与合作产生了巨大成果。
  6. 06经济学视角下,“效率”和“帕累托最优”天然指向和平与合作,而非暴力零和博弈;一致同意规则是帕累托最优的政治对应物。
反方 / 局限
  • — 作者承认短期内人类与AI都解决不了世界永久和平问题,但认为通过无数微观、渐进的改进(如AI提供更好的合约文本、妥协方案),累计效应可加速接近目标。
  • — 文章暗示,若将AI仅视为理性计算体,则可通过法律/惩罚(如关闭电源)增加其违法成本;但若AI能内化帕累托改进原则,则安全风险可从内部消解。这一逻辑链依赖“AI是理性且可被人类法律约束”的前提。
23 分钟 · 5 卡片 · 8 资料
读原文 →

前置背景

论证骨架

平行视角

未来推演

延伸追问