8.3
深览指数
科技虎嗅·划重点KeyPoints··AI 生成
AI巨头集体踩“刹车”，但距离真正的RSI还很遥远
文章以Anthropic和OpenAI近期释放的放缓信号为引子，指出这轮“刹车论”起源于对递归式自我改进（RSI）的担忧。通过与MIT博士瞿骜的对话，文章澄清了当前AI领域大量实践属于“持续自我改进”（如通过经验改进记忆、工具或harness），而非严格意义上AI参与设计下一代系统的RSI。文章重点辨析了从局部循环持续改进到真正RSI之间的关键工程鸿沟——包括经验有效性的验证、反馈信号的获取、模型与harness协同进化的选择，以及权限边界问题。作者认为，RSI仍主要是一个技术交汇点，而非近期会实现的现实。适合对AI前沿技术路线和安全议题有深度兴趣的读者。原文 ↗
核心观点
- ▍当前AI领域面临的核心议题并非AI整体失控，而是如何从“持续自我改进”（AI在任务执行中积累经验并优化自身工作流）走向“严格RSI”（AI开始参与设计、制造下一代AI系统），后者在技术和权限上仍存在巨大鸿沟。
- ▍Anthropic和OpenAI释放的“刹车”信号，以及引发的二级市场动荡，本质上反映了RSI从未来学议题转向实际工程挑战后，对AI基础设施高增长预期的冲击。
- 01支撑AI能够“持续自我改进”的关键技术节点已逐步到位，包括：2025年底DeepSeek R1展示的大规模强化学习在推理上的应用，以及Anthropic Opus 4.5所代表的具备强大长程任务执行能力的智能体。
- 02行业核心分歧在于应优先“进化模型”（model evolve）还是“进化工作框架”（harness evolve）。受访者观点是，两者协同进化是关键，因为harness解决方法论，而模型负责具体判断。
- 03不同类型的任务，其自我改进的难度和反馈机制差异极大：GPU内核优化（验证标准明确）难度最低；虚拟公司经营（需长期观察反馈）次之；个性化写作（“好”的定义因人而异）最具挑战。
- 04“持续自我改进”面临几个核心工程困难：经验的价值判断（如何避免学到坏经验或削弱推理能力）、经验暴露问题（模型无法在训练阶段预见所有部署场景），以及“自我锁定”风险（系统过度依赖已有成功路径，难以跳出局部最优）。
- 05从“持续自我改进”到“严格RSI”的关键拐点，在于AI在“造AI”这一关键任务上的判断力首次达到或超越优秀人类研究者。
反方 / 局限
- — 受访者承认，当前开源研究严重缺乏可提供高质量、可验证、无偏学习信号的“真实世界环境”，这是持续自我改进从benchmark成功走进现实应用的最大瓶颈。
- — 文章暗示，人类对AI的“权限”授予是制约RSI发展的重要非技术变量。即使技术可行性被验证，社会是否愿意让AI“把手伸到更底层”仍是一个不可忽视的边界。
AnthropicOpenAIDeepSeek R1递归式自我改进（RSI）持续自我改进Harness（智能体工作框架）测试时训练与测试时强化学习（Test-time training/RL）瞿骜I.J.GoodCORALReefCEO Bench
21 分钟 · 3 卡片 · 3 资料
读原文 →