7.3
深览指数
科技Bestblogs·跨国串门儿计划··AI 生成
OpenAI：多 Agent 让 RSI 更可行
OpenAI 研究员 Noam Brown 在与 Dwarkesh Patel 的播客对谈中，以一万个Agent在88小时内攻克千禧年难题为例，深入剖析了多Agent系统如何将测试时计算从串行扩展为并行。他强调，突破的核心在于通用模型的强大能力，而非多Agent机制。对谈后半段转向RSI与对齐，指出AI研究受实验与算力的非智力瓶颈限制，不会出现智能爆炸；而对齐的真正难点在于无法确认评测指标是否真的测到了对齐，且模型发布周期可能短于评估任务跨度。本文适合对AI前沿技术、Agent协作、RSI路径及对齐问题有深度兴趣的读者，提供了非销售视角的务实见解。原文 ↗
核心观点
- ▍多Agent的本质是让测试时计算从串行走向并行，而非凭空制造更强智能；在数学、搜索等易并行任务上收益显著，在创造性任务上几乎无用。
- ▍RSI会受到实验与算力等非智力瓶颈限制，不太可能一夜之间智能爆炸；对齐的真正难点在于无法确认评测指标是否真的测到了对齐。
- 01Noam Brown 用一个一万个AI Agent的实验为例，它们在88小时内消耗1300亿token解开一道千禧年大奖难题，但核心功劳（>90%）归功于通用模型的泛化能力，而非多Agent机制。
- 02最好的多Agent系统不靠复杂外脚手架，而是给Agent发消息等基础工具，让它们自行协作，并自发涌现出类似Slack频道协作和层级管理的行为。
- 03AI组织的逻辑不同于人类：可无限复制高效个体、按需创建与销毁实例。Noam认为，若AI充分对齐，一万个Agent可能都像持股20%的联合创始人一样卖力。
- 04Noam个人估计AI研究因RSI的加速大约为三倍，并承认存在很大不确定性（可能只有50%）；判断依据是训练、实验、算力等环节必须串行。
- 05对齐难点的具体例证：思维链监控若被模型识破，可能促使它隐藏意图；模型任务跨度可能扩到三个月，而发布周期仅两个月，安全评估来不及覆盖。
反方 / 局限
- — Noam坦承关于一万个Agent的协同效率缺少扎实的消融实验，因此“一万个Agent比一千个Agent多带来什么收益”目前没有科学测定数据。
- — 早期多Agent系统容易退化成各自独立解题的局部最优，协同并非自动产生。
5 分钟 · 4 卡片 · 8 资料
读原文 →