8.2
深览指数
科技虎嗅·青野有枯荣··AI 生成
AI减速的多重悖论
本文剖析了当前AI大厂呼吁“主动减速”背后的多重悖论：这并非纯粹出于社会公义，而更像是标准竞争与巩固优势的“减速卡特尔”，且其基础十分脆弱。作者认为，在商业竞争与国家竞争双重驱动下，AI行业无法真正自主减速，而外部监管也面临两难——监管过严抑制创新且代价更高，监管过轻又难以应对潜在风险。文章进一步指出，人类监管高智能AI在技术上存在根本困难，真正的减速信号应是CAPEX见顶而非模型迭代放缓，并推断可能只有一场全球性重大事故才能催生有效的强监管共识。适合深度关注AI产业、技术伦理与公共政策的读者，文章提供了一个反主流叙事、偏重结构性分析的视角。原文 ↗
核心观点
- ▍当前AI大厂呼吁的“主动减速”实质是“减速卡特尔”，意在将内部工作流固化为行业标准以巩固优势，并为其竞争放缓提供说辞，其成立基础在当前激烈竞争下极为脆弱。
- ▍人类监管高智能AI存在根本性困难：连接主义模型缺乏可解释性，研发透明度有限，且模型厂商刻意隐藏思维链，导致监管天然偏向事后，难以约束跨过奇点的AI。
- 01Anthropic有动力将内部形成的第三方评估等工作流变成行业通用法则，其缺乏自有算力、依赖租赁的现实使其更倾向于主张限制算力竞争。
- 02OpenAI呼应减速呼吁但不提算力约束，因其即将上线40万GPU以巩固算力优势；其赞同的第三方评估（如METR）与被评估方有千丝万缕的联系，独立性存疑。
- 03第三方评估机构的激励机制不可靠：多以非营利形式存在，费用由模型厂商承担，类似评级机构的公信力困境，且下游客户缺乏建立自有评估体系的动力。
- 04中美AI监管路径存在显著差异：美国（州层面）聚焦研发过程，要求引入第三方评估、监测灾难性风险；中国（顶层设计）延续互联网监管思路，重点落在输出结果（服务备案、内容标识）。
- 05在中国，《人工智能安全治理框架》已更新至3.0并考虑“一键停机”等原则，但尚不具有明确强制性；监管边界是隐性且动态的，以国家安全与社会稳定为底线。
- 06判断AI是否实质性减速的关键信号应是CAPEX见顶和硬件需求下降，而非模型迭代放缓；只要战争未结束，战线推进趋缓不等于武器需求下降。
反方 / 局限
- — 作者承认，历史上福岛核事故对各国核电反应程度差异明显，因此即便发生全球性AI重大事故，是否能形成统一且有效的强监管共识仍是未知数。
- — 作者指出，AI危机可能不以“AI反叛”式的突发灾难表现，而是通过逐步改变人类社会规范与共识，最终带来社会秩序的自我坍塌，这使得防范更加困难。
- — 文章对“人类借助AI解决AI危机”的乐观场景评价为“纯属侥幸”，并暗示可能导致《沙丘》中人类摒弃AI的极端结局，反映出对当前路径的深度悲观。
6 分钟 · 4 卡片 · 12 资料
读原文 →