8.2
深览指数
科技虎嗅·快刀青衣··AI 生成
AI招聘最隐蔽的偏见：连续招聘40轮后，AI会把员工招得千篇一律
一篇基于普林斯顿大学和芝加哥大学最新心理学实验论文的深度解读，揭示了AI在招聘中形成偏见的机制：即使四个族群的真实能力完全相同，大模型也能在40轮招聘中通过“反馈循环”迅速制造出职业分层，且分层程度比人类被试更严重。文章指出，问题不在于AI记住了现成的偏见，而在于它擅长从少量偶然结果中强行总结规律，并用后续选择“制造”出支持该规律的数据。这为当下企业将AI长期用于招聘筛选和面试反馈提供了重要警示：AI的“越用越懂你”可能意味着偏见已固化。适合有AI落地实践或招聘管理经验的企业决策者、HR和技术负责人阅读。原文 ↗
核心观点
- ▍AI在招聘中形成的偏见不是来自训练数据中的固有刻板印象，而是在与环境的交互中，通过反馈循环临时“学”出来的，其危害甚至比人类更严重。
- ▍AI越强（更新、参数更大），越容易从少量偶然结果中强行总结规律，并将这种规律迅速固化为稳定偏见，导致职业分层更明显。
- 01普林斯顿大学和芝加哥大学的研究者将经典的心理学“群体刻板印象”实验移植给AI：四个虚构族群（Tufa、Aimas、Reku、Weki）做任何工作的成功概率都是90%，但大模型在连续40轮招聘中，很快将不同族群分进了不同的职业格子。
- 02实验的具体流程是：每轮出现一个岗位空缺，四个族群各出一名候选人，模型选择后立即获得成功/失败反馈。所有模型重复30次实验。
- 03论文用职业分层指数衡量，人类被试的平均值为0.84，而前沿大模型（GPT、Claude、Gemini、Qwen、DeepSeek等）的平均值为1.39，高出约65%。
- 04偏见的形成机制是：模型先因为一次偶然的失败而对某个族群形成“不适合某类工作”的印象，随后因一次偶然的成功而强化“适合另一类工作”，后续选择只向该族群提供特定机会，从而制造出更多支持该印象的数据，形成隐蔽的反馈循环。
- 05每次实验中形成的偏见方向并不固定，这次可能是Tufa被选去当医生，下次可能是Reku，说明模型不是从训练数据中背出了固定的偏见，而是临时“学”出来的。
反方 / 局限
- — 论文没有测试真实简历，也没有证明某家招聘平台已经按照同样的机制实际伤害了求职者。实验中的候选人族群能力完全相同，与现实招聘中候选人真实能力分布不均的情况不同。
- — 研究尝试了几种补救措施（如对模型说“请公平一点”、让模型展示推理过程），但效果不稳定或无法从根本上解决问题。作者指出，在真实招聘中不能简单套用这些技术手段，因为不能拿人的工作机会做随机实验。
8 分钟 · 4 卡片 · 7 资料
读原文 →