7.1
深览指数
科技Bestblogs·腾讯研究院··AI 生成
AI 公司为何把哲学家请进实验室？
文章以 Anthropic、Google DeepMind 等公司引入哲学家解决 AI 对齐问题为主线，揭示了这不仅是技术挑战，更是定义“该把哪套价值编入模型”的哲学困境。文章详细拆解了不同公司的实操路径，并引出了核心疑问：这种跨学科合作是真正的行业自律，还是一场公关表演？适合对 AI 治理、科技伦理及商业动机有深度兴趣的读者。原文 ↗
核心观点
- ▍AI 对齐不仅是技术难题，更是深刻的哲学困境，核心挑战在于人类自身缺乏统一的道德标准，因此需要哲学家来定义“该把哪套价值编进去”，而不仅是“如何编码”。
- ▍顶尖 AI 公司正通过不同路径引入哲学研究：Google DeepMind 侧重前沿概念定义与评估框架，Anthropic 则让哲学家主导“宪法 AI”设计，直接参与模型训练，路径更“上手”。
- 01Google DeepMind 的哲学家 Gabriel 将价值对齐拆解为六个层级，提出寻求能够获得所有人反思性认同的“公平对齐原则”。
- 02DeepMind 的 Shevlin 警示“行为主义复仇”风险，即用户行为上已视 AI 为有意识主体，这可能导致实际伦理问题先于理论共识爆发。
- 03Anthropic 的哲学家 Askell 主导制定了 Claude 的“宪法”，以美德伦理为基础，其团队深度参与模型训练全流程，包括奖励模型的设计和红队评估。
- 04Anthropic 联合创始人奥拉在梵蒂冈通谕发布会上坦承，AI 实验室面临“激励冲突”，即安全与商业发展的内在矛盾。
- 05文章引用了梵蒂冈教宗利奥十四世的首份 AI 通谕《壮丽人性》，该通谕警告了 AI 权力集中与失业风险。
反方 / 局限
- — OpenAI 超级对齐团队的解散，被视为安全研究在商业压力下可能被边缘化的信号，揭示了AI公司伦理自律与商业逻辑的内在张力。
- — 《财富》、《经济学人》、《纽约时报》等媒体对教宗通谕和公司伦理宣言提出批评，认为其缺乏实操性，更像是一种道德公关表演。
4 分钟 · 3 卡片 · 9 资料
读原文 →