8.2
深览指数
科技腾讯新闻··AI 生成
Anthropic CEO阿莫代最新访谈：论技术爆发、安全红线与文明契约
Anthropic CEO 阿莫代在访谈中系统阐述了他对 AI 指数级增长的切身感受：技术爆发在量变积累后会产生质变的爆发感，公司营收曾在单季度增长3倍。他详细解释了离开 OpenAI 的核心原因是信任破裂和价值观分歧，而非单纯的安全策略分歧。在企业战略层面，阿莫代强调企业级商业模式与 AI 安全价值观更协同，能避免消费端成瘾和低质量竞争。他明确反思了对自己言论被社交媒体曲解为“末日营销”的愤怒，并以 Mythos 模型因网络安全风险被推迟发布为案例，展示了公司在安全与商业之间的实际权衡。本文适合关注 AI 前沿公司治理、安全红线与地缘政治的深度读者，约30分钟可读完。原文 ↗
核心观点
- ▍AI 行业处于‘平稳的指数级增长’中，量变积累到临界点会爆发；这种增长不以线性思维理解，企业必须适应每年全部指标（算力、营收、模型能力）10倍以上的变化速率。
- ▍Anthropic 的核心差异化在于：通过设立‘红线’（如全自主武器、大规模监视）和推迟高风险模型发布（如 Mythos）来践行安全价值观，并为此承受了数亿美元的营收损失。
- 01阿莫代描述公司营收增长：2026年第一季度季度营收增长超过3倍，未预料到年化80倍的增长；但认为这种极端算力爆炸阶段不会持续。
- 02关于离开 OpenAI：核心分歧不是安全策略，而是对领导层的信任破裂和价值观不诚实，感到无法信任对方后才选择离开。
- 03Mythos 模型的内部测试：公司提供给合作方后，对方称其为‘超级武器’，请求不要发布；Mythos 在 Firefox 中发现了271个此前未被发现的漏洞。
- 04对抗开源模型复现论：阿莫代明确指出，开源模型根本无法完成 Mythos 那种全局代码库扫描+漏洞利用流程，‘在已找到的针上捡起来’不是同一回事。
- 05AI 在医疗领域的突破：Claude 诊断出多个被顶级医生漏诊的医疗问题；在药物设计和计算化学方面表现惊艳。
- 06对军事 AI 合作的态度：Anthropic 是首批与美国国防部在机密网络上部署的 AI 公司，但严格划定红线——不涉及全自主武器和大规模监视，不通过 Palantir 与 ICE/CBP 合作。
- 07失业推演：观察到 AI 对入门级白领岗位的颠覆趋势；认为 GDP 高速增长可能伴随高失业率，需要宏观经济政策应对；公司推动客户用同样资源做更多事（正和博弈）而非单纯裁人。
- 08公司治理结构：Anthropic 设立 Long-term Benefit Trust，该信托可任命或罢免多数董事会成员，拥有解雇 CEO 的权力；阿莫代认为这是对 AI 公司权力的制衡机制。
反方 / 局限
- — 阿莫代承认，即便 Anthropic 努力降低风险，文明崩溃的概率仍在10%-25%之间；他指出这项技术的固有属性是不可预测的，风险永远不可能降为零。
- — 承认 AI 在军事中的应用存在巨大风险：一次伊朗女子学校误炸事件造成150人以上死亡；虽然坚持人类在回路，但仍无法确定 Claude 是否参与了那一次行动。
达里奥·阿莫代AnthropicMythosSam AltmanDemis HassabisClaudeLong-term Benefit TrustLeo SzilardOppenheimer
55 分钟 · 4 卡片 · 12 资料
读原文 →