科技Bestblogs·硅谷101··AI 生成
对话 Vitalik：AI 安全背后的哲学思想，有效利他主义如何影响硅谷？
Afra 与 Vitalik 复盘有效利他主义（EA）从量化慈善转向长期主义再到 AI 安全的四阶段路径，拆解其资金网络如何通过 fellowship 和岗位吸纳年轻研究者。文章披露 Anthropic 招股书 safety 出现 248 次、创始人通过特殊股份掌握 50.1% 投票权等细节，并讨论 METR 审计独立性争议、EA 与理性主义的本质区别。适合关心 AI 治理与硅谷思想生态的读者。原文 ↗原文 ↗
核心观点
- ▍有效利他主义已从量化慈善的整体迁移为 AI 安全议题，并通过资金、fellowship 与岗位将议题设置权集中到自身网络。
- ▍AI 安全审计的独立性存疑：资助方与 Anthropic 早期投资人重叠，但作者认为这是议程投射而非阴谋。
- 01Anthropic 招股书近 100 页风险因素中 safety 出现 248 次、AI 安全出现 36 次，并直言无法保证安全措施有效。
- 02七位联合创始人通过特殊股份掌握一般表决事项 50.1% 投票权，长期利益信托可选举董事会多数成员，创始人可提前指定失能后的投票权接替者且名单保密。
- 0320 岁出头的研究者能在 AI alignment 与 AI 安全领域拿到大量 fellowship、grant 和不错年薪，而传统智库难招到 AI 政策分析员。
- 04METR 等安全审计机构的资助方 Coefficient Giving 创始人 Dustin Moskovitz 同时持有大量 Anthropic 股票。
- 05Vitalik 回忆 2013—2015 年受「每 2000 美元救一命」的蚊帐统计启发转向有效利他，2016—2017 年将以太坊收益捐给非洲蚊帐组织与长寿研究。
反方 / 局限
- — 转录存在较多 ASR 错词与结尾截断，Vitalik 后半段观点未能完整呈现，e/acc 与 EA 的张力讨论不充分。
- — 作者承认资金会影响哪些问题被视为重要，但未深入讨论这种议程投射对安全审计独立性的实质影响。
概念锚点
前置背景
技术原理
论证骨架
平行视角
未来推演
延伸追问