8.3
深览指数
科技Bestblogs·硅谷101··AI 生成
最快半年 AI 跑通自进化？与陈天桥首席科学家聊聊硅谷模型必争之地
本文是《硅谷101》对Apodex两位首席科学家的深度访谈整理。文章核心发现是：AI递归自我提升（RSI）的技术突破点在于长程任务能力每7个月翻倍，但最根本的障碍是递归漂移——模型自我生成训练数据时错误会逐代累积。作者明确提出了'发现模型'愿景：不是生成已知答案，而是提出人类未想到的假设并验证。文章特别讨论了AI的'学术品味'问题，指出当前最强模型存在拍马屁、缺乏品味通病，Apodex通过与顶级科学家对齐来培养模型判断力。适合对AI前沿技术路径、自我进化具体机制感兴趣的深度读者，以及关注AI安全与可控性的从业者。原文 ↗
核心观点
- ▍AI递归自我提升（RSI）的核心障碍是递归漂移——模型在自我生成训练数据时，推理错误会逐代累积，导致能力退化而非提升。
- ▍Apodex提出了'发现模型'（Discovery Model）愿景：不是生成已知答案，而是提出人类未想到的假设并验证，这需要培养模型的'学术品味'。
- 01Anthropic在2023年预言RSI将成为AI能力发展的关键路径；从三年前的'LLM as Optimizer'到今年因长程任务能力突破而爆发的RSI，技术路径已清晰。
- 02模型的长任务处理能力每7个月翻一倍，这让模型可以在人类不监督下完成长时间工作，是实现递归式自我提升的基础。
- 03Apodex通过Agent Team（多个模型分工协作）、冗余验证（多个裁判验证同一结果）、形式化验证和联合训练裁判员四种手段来控制递归漂移。
- 04当前最强模型存在'拍马屁'和'鸡蛋里挑骨头'的通病，前者导致模型不敢提出大胆假设，后者导致模型无法聚焦真正重要的问题。
- 05Apodex通过Constitution AI（一套原则框架）、与顶级科学家对齐、以及人类偏好蒸馏来塑造模型的品味和判断力，避免模型沦为'灌水论文'产生器。
- 06嘉宾预测最快半年内AI可跑通一次完整的自我进化闭环，但安全监控和递归漂移控制仍是决定能否实现持续递归提升的关键瓶颈。
反方 / 局限
- — 作者承认，目前RSI仍需要人类每天手动阅读模型输出、干预'问题行为'，自动化监控尚未实现，且每次迭代的漂移率需要从10%降至0.1%以下才能实现持续递归。
- — Adversarial验证中，模型的'发现'可能只是人类已知知识的变体，而非真正原创洞见；如何判断模型提出的假设是否为'真正的新发现'，目前依赖人类科学家判断，难以自动化。
4 分钟 · 4 卡片 · 11 资料
读原文 →