7.8
深览指数
科技虎嗅·十字路口Crossing©··AI 生成
走进Anthropic：造最危险的技术，还想当个好人
Bloomberg 播客深度访谈了 Anthropic 创始人 Dario 与 Daniela Amodei 兄妹，呈现了这家声称以安全为使命的 AI 公司在商业、军事、价值观漩涡中的真实处境。访谈直面了一系列尖锐矛盾：一边与五角大楼签约合作，一边自认为反战；一边警告 AI 可能消灭 50% 初级白领岗位，一边高速推进产品。文中披露了代号 Mythos 的超级网络安全模型因过于危险而不对外发布的内部决策，以及创始人关于文明崩溃概率在 10-25% 的坦率估计。深度读者将看到一家技术领先公司的内部逻辑、自我辩护与真实张力，适合关注 AI 治理、商业伦理与技术地缘政治的读者。原文 ↗
核心观点
- ▍Anthropic 的核心矛盾在于：它一边打造最强大的 AI 技术，一边自称要当'好人'，并在商业成功、军事合作和价值观坚守之间进行持续的权衡取舍。
- ▍Dario Amodei 认为，AI 带来的冲击将不同于以往的技术革命：可能出现 GDP 高速增长与高失业率并存、低薪岗位泛滥和高度不平等的局面。
- 01Dario 表示离开 OpenAI 的主要原因是'无法信任对方'和'价值观不一致'，而非单纯的安全方法论分歧。
- 02Anthropic 有意避开了以广告驱动的消费级 AI 应用，押注编程和企业市场，因为'企业端的商业模式与价值观基本对齐'。
- 03Claude Code 和 Cowork 的研发负责人 Boris Cherny 表示，过去至少半年，他的代码 100% 由 Claude 编写，目前他同时使用数十到上百个 Claude 实例并行工作。
- 04Anthropic 内部存在一个代号 Mythos 的强大网络安全模型，能在几乎无提示的情况下发现并利用操作系统漏洞，公司决定不公开发布，仅向少量筛选机构开放。
- 05Anthropic 与 OpenAI、xAI、Google 共同拿下了五角大楼一份 2 亿美元的合同，Claude 被报道用于美军在伊朗的 AI 辅助目标定位。
- 06Dario 在采访中表示，他最有共鸣的原子弹项目人物是利奥·西拉德（提出链式反应概念的科学家），并将奥本海默视为'一个失败案例'。
- 07Dario 估计 AI 导致文明崩溃的可能性在 10-25% 之间，但他表示公司在努力将这一概率压到更低水平。
反方 / 局限
- — 面对 Claude 可能参与伊朗女子学校袭击的质疑，Dario 承认'即使在最理想的情况下，军方决策者也会犯下极为严重的错误'，但他认为不应由 AI 公司决定具体军事行动，最终决定权应交给军方。
- — Dario 坦言对权力集中深感不安：'我既害怕公司掌握它，也害怕政府掌握它'，因此需要设立包括长期利益信托和国会立法在内的制衡机制。
- — 对于外界认为其 AI 失业论是'末日营销'的批评，Dario 强硬反驳，称那是'懒惰，是拒绝去做严肃的智识工作'，并强调自己同时也在谈解决方案。
Dario AmodeiDaniela AmodeiAnthropicOpenAISam AltmanClaudeMythosClaude CodeClaude Cowork五角大楼Palantir宪法（Constitutional AI）奥本海默利奥·西拉德
39 分钟 · 5 卡片 · 15 资料
读原文 →