深览
8.0
深览指数
科技腾讯新闻·华尔街见闻··AI 生成

Anthropic CEO谈放缓AI研发：有人用AI“研发生物武器、增强病毒传染性”，必须引入第三方监管

Anthropic CEO Dario Amodei 在 CBS 访谈中阐述其 AI 安全哲学，核心主张不是「停止」研发，而是引入第三方嵌入式评估机构来「放缓」前沿AI的发布节奏。他拒绝全面禁止AI的法案，认为技术上不可行且会丧失巨大收益（如疾病治愈），并提出借鉴核裁军谈判框架，与威权国家建立AI发展核查机制。该立场获得了马斯克和奥特曼的公开支持，但前员工尖锐批评行业「拿生命赌博」。文章适合关注AI治理与安全、行业监管博弈的深度读者。原文 ↗

核心观点
  • ▍AI 研发不应全面禁止或叫停，而应通过引入第三方嵌入式评估机构来「放缓」发布节奏，这是一种介于放任和全面禁止之间的中间道路。
  • ▍AI 的安全不能依赖单一防线，必须采用「瑞士奶酪模型」——多层安全防护叠加，共同降低风险穿透的概率。
  1. 01Amodei 透露，Anthropic 已检测到有人试图利用其模型增强病毒传染性，进行生物恐怖主义活动。
  2. 02Anthropic 的生物学安全防护过于严格，以至于遭到生物专业学生在社交媒体上嘲笑，Amodei 回应「我宁愿被嘲笑，也不愿某天醒来发现有人用 Claude 杀了一群人」。
  3. 03Amodei 引用患者反馈：每周都有人写信说 Claude 诊断出了他们医生漏诊的疾病，以此论证技术巨大的正面收益。
  4. 04Amodei 在采访中提出三步计划：第一步是引入嵌入式外部评估机构（第三方非营利或政府），全程观察模型的训练和运行。
  5. 05他明确反对「禁止人工超级智能法案」，认为技术上不可行（强大模型无法被关闭），且会让威权国家领先，无法获得医疗等收益。
反方 / 局限
  • — Amodei 坦承，自己作为私人公司 CEO 来主导这项「比我们都大」的技术是「非常奇怪」的，且对「单一政府滥用技术」同样感到不安。
  • — 前 Anthropic 员工 Jacob Coxin 公开批评 Anthropic 和 OpenAI「都没有负责任地行事」，「在拿我们的生命赌博」，Amodei 承认结构性困境的存在。
  • — Amodei 承认，即便有第三方监管，AI 的军备竞赛激励和军事优势可能使限制速度变得「非常困难」，甚至「不可行」。
Dario AmodeiAnthropicClaudeOpenAI马斯克Sam AltmanJacob Coxin瑞士奶酪模型禁止人工超级智能法案SB53
14 分钟 · 5 卡片 · 14 资料
读原文 →

前置背景

平行视角

争议局限

未来推演

延伸追问