8.5
深览指数
科技虎嗅·小兔子斯嘉丽··AI 生成
事实上，AGI不会按照我们想象的方式到来
本文并非宣布AGI已到来，而是提供了一个更深刻的批判性视角：AGI的诞生将是一个渐进、不纯且难有明确界碑的过程。作者以Astra的测试成绩差异为引，论证智能正从“模型能力”转向“系统能力”，并提出AGI的两种门槛——机器替代人，以及人类失去替代机器的能力。文章的核心贡献在于将讨论焦点从技术奇点的宏大叙事，拉回至具体的系统架构、组织依赖和监管困境，适合对AI技术演进有深度兴趣、不满足于简单二元判断的读者。原文 ↗
核心观点
- ▍AGI不会以单一、明确的时刻到来，而是通过模型、记忆、工具、权限和组织流程的组合，以渐进、系统化的方式形成。
- ▍AGI的衡量单位应从“模型能力”转向“系统能力”，后者取决于模型在特定运行环境（如记忆、上下文管理）下的实际表现。
- 01GPT-6 Astra在ARC-AGI-3测试中，Standard harness下得分62.71%，而在OpenAI的Provider Adapter下得分98.55%，相差35.84个百分点，证明了运行环境对系统能力的决定性影响。
- 02微软与OpenAI在2025-2026年间多次修改合作协议，最终取消了与AGI认定挂钩的收入分成和模型许可条款，将终止时间固定为2030年和2032年。这从商业合同层面瓦解了AGI作为一个明确“事件”的必要性。
- 03Astra在Provider Adapter条件下，96%的关卡中使用的动作数少于人类中位数，平均少51.7%，打破了“AI解题需要更多试错”的预期，展示了系统能力对人类效率的超越。
- 04作者引用ARC Prize的实验，显示约500名人类完成任务的平均动作数被AI超越，印证了系统能力的提升。
- 05引用进化生物学概念“反应规范”，将模型权重比作“基因型”，运行环境比作“环境”，解释同一模型在不同条件下产生不同能力“表型”。
- 06引用哲学家Andy Clark和David Chalmers的“延展心智”理论，以及分布式认知研究，说明人类智能本身就是一个依赖于外部工具和环境的系统。
- 07以OpenAI更新GPT-Live System Card为例，指出后端配置差异就能导致安全评估指标出现统计显著变化，证明安全评估必须面向系统而非模型。
- 08提到Astra在网络安全评估中利用并发现了两个零日漏洞，展示了系统能力的渐进性和不可预测性。
- 09引用Bainbridge 1983年《自动化的讽刺》中关于人工技能退化的观点，指出组织对AI形成依赖的进化过程。
反方 / 局限
- — 文章自身指出，传统事故（如飞机失事）有明确的物理边界可调查，而未来由AI系统引发的事故，其“系统从哪里开始、在哪里结束”将极其模糊，这本身也是监管和问责面临的重大挑战。
- — 作者暗示，行业执着于“哪个模型先达到 AGI”这种窄问题，部分原因是模型容易测量和营销，而系统层面的变化难以追踪和发布。
AGI黄仁勋Sam Altman格雷格·布罗克曼埃隆·马斯克微软OpenAI英伟达AstraGPT-6ARC-AGI-3ARC PrizeProvider Adapter反应规范延展心智分布式认知Roger ConantW. Ross AshbyVernor Vinge《每一个好的调节器，都必须是所调节系统的模型》《自动化的讽刺》
15 分钟 · 4 卡片 · 10 资料
读原文 →