7.3
深览指数
商业虎嗅·动察Beating©··AI 生成
曾经拼命加速的AI巨头，终于开始怕AI了
文章记录了2026年9月前后，Anthropic、OpenAI等前沿AI实验室内部出现的「减速」呼声及其连锁反应。核心事件是两名Anthropic员工（包括27岁的Jacob Coxon）相继离职并警告AI可能十年内杀死所有人，随后Anthropic CEO Dario Amodei发表长文提出具体减速方案，Sam Altman、Elon Musk等公开支持。文章将这场讨论置于三重张力中：硅谷的安全担忧、华盛顿的对华竞争叙事、以及华尔街对估值逻辑动摇的恐慌，并分析了行业标准制定背后的权力博弈。适合关注AI治理、科技产业政策与商业竞争的深度读者。原文 ↗
核心观点
- ▍前沿AI实验室内部正在经历从「加速主义」到「减速共识」的转变，但这种转变并非纯粹出于安全考虑，而是与行业标准制定权、国家竞争、资本市场估值深度绑定，形成了一种「所有人都在谈刹车，却也都在盯着旁边那辆车有没有松开油门」的囚徒困境。
- 012026年9月8日，27岁的程序员Jacob Coxon从Anthropic离职，放弃巨额股权，发帖警告AI可能在十年内杀死所有人，该帖子浏览量超过1.7亿。
- 02另一名未具名的前Anthropic员工随后也公开早先离职原因，称「我们可能活不过这一关」，各家公司正在制造比人类聪明得多的机器。
- 03Anthropic一位资深安全负责人认为，未来10年内AI杀死所有人类的概率超过10%，高于俄罗斯轮盘赌的死亡率（16.7%）。
- 04Anthropic CEO Dario Amodei于9月12日发表长文《We Must Pace the Frontier》，提出三大减速方案：独立第三方常驻评估、政府参与制定共同安全标准、推动国际协调。
- 05Sam Altman、Elon Musk和Demis Hassabis均公开支持放慢前沿AI速度；Sam随后补充担心AI最终失控被一人/一家/一国垄断。
- 06The Information披露，Anthropic、OpenAI和Google早在7月就开始私下讨论成立AI行业标准机构，但分歧在于政府介入的深度，Dario主张政府有权阻止不安全模型发布，Demis提出「AI版FINRA」模式，Sam主张先行业自律。
- 07特朗普公开回应此轮AI安全争议，强调「谁赢AI谁赢」，认为美国不能因渲染风险而减速，中国在追赶。
- 08市场反应迅速：在该轮公开呼吁后，AI相关上市公司股价一度下跌13%，华尔街担心增长叙事本身变成监管问题。
- 09Anthropic在CEO呼吁减速的同时，自己选择在纳斯达克上市，目标估值2万亿美元，且英伟达正考虑认购100亿美元基石投资。
反方 / 局限
- — 文章暗示，减速方案可能成为已站稳前沿的公司设置市场准入门槛的工具——安全标准写入「最佳实践」，后来者需承担头部定义的合规成本，形成事实上的竞争壁垒。
- — Jacob Coxon的帖子传播被揭露经过精心策划（多次改稿、请朋友转发、联系AI安全组织），构成对其吹哨动机的质疑，但文章指出这并不等同于其警告内容为假。
AnthropicOpenAIGoogleJacob CoxonDario AmodeiSam AltmanElon MuskDemis HassabisDonald TrumpFINRA（金融业自律监管机构）AI安全竞赛Hugging FaceLeo Szilard / 爱因斯坦 1939年核裂变警告信Vitalik ButerinEncode（AI安全组织）Daniel Kokotajlo纳斯达克英伟达
14 分钟 · 4 卡片 · 11 资料
读原文 →