7.5
深览指数
科技腾讯新闻·01Founder··AI 生成
“我在Anthropic感到不安全”：一位Anthropic早期员工的回忆
Anthropic 早期技术员工 Ivan Vendrov 在 2023 年于公司工作八个月后离职，离职前曾在日记中反复写下「I don't feel safe at Anthropic」。他回忆了 40 人时期办公室的羊角面包、FBI 特工来培训、联合创始人反对寿司晚餐奢侈、被问是否愿捐出三分之二股权，也回忆了同事忍受胃痛加班、自己因使命与商业路线分裂而失眠。他最终写了一封满是赞美的辞职信，称这是一家「好得难以置信的组织」，却没说出真正的怀疑。原文 ↗
核心观点
- ▍一家以 AI Safety 为使命的公司，也可能让身处其中的人感到精神上不安全——使命越真诚，越难被内部人质疑。
- ▍Ivan 最终没有在辞职信里说出真正的怀疑，因为他担心动摇那些「更聪明、更有能力、更善意」的同事的信心，而万一自己错了呢。
- 012022 年秋 Ivan 在 OpenAI 两个月研究合同与 Anthropic 正式工作之间选择了后者，一位联合创始人告诉他华盛顿已有一批有影响力的人在关注 AI 风险。
- 02入职时招聘人员询问他是否愿意承诺将三分之二股权捐给慈善事业；多年后招股书披露七位联合创始人承诺捐出个人股权的 80%。
- 03公司请来寿司师傅做晚餐，一位联合创始人事后在 Slack 上表达不满，认为奢侈安排传递错误信号，甚至说自己更愿看到米饭和豆子。
- 04一名 FBI 特工来到全员会议讲解信息安全和间谍活动，提醒员工可能已成为外国情报机构的目标。
- 05一位新经理忍着严重胃痛开会，面部因疼痛扭曲仍无法休息，向 Ivan 强调公司目标是「亲自造出 AGI 并确保它的安全」。
- 06Ivan 把 Anthropic 和 OpenAI 训练的助手形象称为「受过创伤的官僚」——谨慎、服从、害怕犯错、永远努力满足要求。
- 07他只工作了八个月，没等到第一批股权归属就离职；朋友问他有没有记下核心代码，他说自己甚至没尝试去看。
反方 / 局限
- — 文章明确说「受过创伤的官僚」属于 Ivan 的哲学判断，语言模型没有因此被证明拥有与人类相同的创伤体验——作者自己划清了事实与比喻的边界。
- — Ivan 也记得 CEO 兴致勃勃与他讨论机器学习、让他找回大学时代学术快乐，以及身边许多善良、愿意讨论技术与伦理的同事——他的痛苦与欣赏同时为真，而非单向控诉。
- — 原文强调这些经历来自几年后的个人回忆，部分对话经过意译和匿名处理，无法独立核实，叙事本身带有事后重构的滤镜。
AnthropicIvan VendrovOpenAIFBISome Memories of Early AnthropicI don't feel safe at AnthropicAI SafetyAGI受过创伤的官僚Anthropic IPO 招股书
13 分钟 · 5 卡片 · 10 资料
读原文 →