7.6
深览指数
科技虎嗅·陈玉立··AI 生成
AI末日论吵翻美国，中国为何静悄悄？
本文对比了中美两国在AI安全治理上的路径差异。美国通过研究人员离职公开警告、CEO公开辩论、国会听证等公开冲突将风险讨论推到社会前沿，而中国则通过密集出台技术标准、备案制度和行政法规，将风险拆解为可操作的管理动作。文章指出两套模式各有盲区：美国多元博弈可能导致责任分散与合规表演；中国行政主导则存在企业端真实安全实践成效难验证的问题。适合关注AI产业政策、科技治理比较的读者，能获得对中美AI治理底层逻辑差异的系统分析。原文 ↗
核心观点
- ▍中美AI治理路径的核心差异在于：美国通过公开冲突将风险推入社会讨论，中国则通过行政程序将风险拆解为可执行的管理动作，两种模式各有其代价和盲区。
- ▍中国企业不能仅满足于国内合规备案，当模型出海时，客户要求的是可验证的测试记录、可追溯的责任链条和可审计的安全能力。
- 012026年9月，Anthropic前研究员Jacob Coxon离职后指责公司拿全人类生命下注，对齐科学负责人Evan Hubinger公开声援，称内部有人认为AI在十年内杀死人类的概率超过10%。
- 022026年9月Dreamforce大会上，Anthropic CEO提出三层刹车方案（第三方常驻评估、核心实验室协调守则、国际合作），OpenAI CEO Altman认为安全是单方面责任，英伟达CEO黄仁勋则将安全归为工程问题。
- 03中国2024-2026年密集出台治理文件：2026年4月发布《人工智能拟人化互动服务管理暂行办法》，9月迭代《人工智能安全治理框架》至3.0版，并持续推进智能体系统开发安全等标准。
- 04截至2025年底，中国已有748款生成式AI服务完成备案，435款应用/功能完成登记。
- 05美国联邦层面至今没有一部综合性AI立法，依赖自愿承诺、NIST风险管理框架、FTC执法等软法安排；中国则通过顶层文件将AI治理上升为国家治理能力建设。
- 06MiniMax因Hailuo AI服务被迪士尼、环球影业、华纳兄弟在美国起诉侵犯版权，法院驳回其驳回动议，案件进入正式审理。
- 07国内大模型公司中，仅智谱公开披露设有AI伦理委员会，而国家已规定头部大模型必须强制设立独立的人工智能科技伦理委员会。
反方 / 局限
- — 美国模式的问题：安全监管可能成为巨头筑墙工具，实质投入可能沦为表演，多头监管消耗治理能力，最终每个主体都有权定义风险但无人能最终负责。
- — 中国模式的问题：治理信息多于模型特有风险信息，价值原则完整但可审计指标有限。企业可能形成“备案即安全”的隐性逻辑，其持续的风险识别和事故处置能力难以验证。
- — 两种模式并非完全隔绝，双方都在互相借鉴：美国也在推出行政法规划定硬性边界，中国学界和企业对长期风险的讨论也在增多。
Jacob CoxonEvan HubingerDario AmodeiSam Altman黄仁勋Marc Benioff李勇AnthropicOpenAI英伟达Google DeepMindSalesforceMiniMax智谱WAICONISTFTC人工智能拟人化互动服务管理暂行办法Dreamforce大会
14 分钟 · 4 卡片 · 12 资料
读原文 →