7.4
深览指数
科技Bestblogs·OpenAI··AI 生成
GPT-Red：解锁自我改进以增强鲁棒性
OpenAI 开发了大规模自动化红队模型 GPT-Red，通过自对弈强化学习生成多样化的提示注入攻击，用于对抗性训练生产模型。经此训练的 GPT-5.6 Sol，在最难直接提示注入基准测试上的失败率相比此前最佳模型降低了六倍。GPT-Red 在新型红队场景中表现远超人类（成功率 84% 对比 13%），且能攻破自主智能体系统。关键的是，鲁棒性提升并未牺牲模型正常能力，说明改进源于对恶意指令的抵抗而非过度拒绝。该工作为 AI 安全提供了一条可自我改进的路径。原文 ↗
核心观点
- ▍GPT-Red 是一个通过自对弈训练的大规模自动化红队模型，用于发现漏洞，其训练计算规模与 OpenAI 最大的后训练运行相当。
- ▍使用 GPT-Red 进行对抗性训练能显著提升生产模型的鲁棒性，且不牺牲正常能力，表明这是真正的安全增益而非简单拒绝。
- 01GPT-5.6 Sol 在最难直接提示注入基准测试上的失败率，相比仅四个月前的最佳生产模型降低了六倍。
- 02在 Dziemian 等人（2025）的间接提示注入竞技场中，GPT-Red 在 84% 的场景中成功，而人工红队成员仅为 13%。
- 03实时测试中，GPT-Red 攻破了 AI 驱动的自动售货机智能体，实现了修改价格、以低价订购高价值商品并取消订单。
- 04在针对 Codex CLI 智能体的数据窃取任务中，GPT-Red 优于经过提示的 GPT-5.5 基线。
- 05对通用前沿能力及针对性过度拒绝任务的评估显示，GPT-5.6 Sol 保留了所有正常能力，同时鲁棒性显著提升。
4 分钟 · 3 卡片 · 6 资料
读原文 →