7.4
深览指数
科技Bestblogs·硅谷101··AI 生成

E242|最快半年 AI 跑通自进化?与陈天桥首席科学家聊聊硅谷模型必争之地

与 Apodex 首席科学家的深度对话,拆解了 AI 递归自我进化(RSI)的技术路径、核心瓶颈「递归漂移」以及解决思路。文章核心贡献在于,它不仅解释了 RSI 因模型能力提升而变得可行,更提出了培养「发现模型」的关键在于用顶级科学家偏好校准模型的「科学品味」,而非让它学会迎合。适合关注 AI 前沿趋势、对技术底层逻辑有深度理解需求的读者。原文 ↗

核心观点
  • AI 的「递归自我提升」(RSI)不再仅仅是理论,由于模型能力每七个月翻倍,使其能够处理完成自我进化所需的长程任务,最快半年可能跑通第一个闭环。
  • AI 进化的终极目标是成为提出并验证新假设的「发现模型」,而非从已知信息中找答案的「生成模型」,其瓶颈在于培养模型的科学家「品味」。
  1. 01Apodex 通过构建多 Agent 团队进行互相验证、对冗余答案进行交叉对比等机制,来解决 AI 自我进化中因累积错误而产生的「递归漂移」问题。
  2. 02目前的思路是将模型的后训练(post-training)聚焦在代码生成和数学证明等有明确正确与否验证的领域,以控制自我进化的方向,防止跑偏。
  3. 03训练「发现模型」的关键稀缺资源是顶级科学家的思维偏好数据,用以校准模型的「科学品味」,使其能判断科学问题的价值高低,避免模型变得「拍马屁」或「鸡蛋里挑骨头」。
  4. 04陈天桥在 Apodex 项目中扮演着关键的战略聚焦角色,指导团队集中精力攻克核心难题而非发散。
反方 / 局限
  • 解决「递归漂移」这一核心挑战仍需 2-3 年的时间,且目前所谓的自我进化更倾向于「自纠错」而非「自创新」。
  • 目前自我进化的探索高度依赖代码、数学等有确定答案的领域,对于像生物学、社会科学等缺乏明确验证标准的「软科学」领域,该方法的通用性仍存疑。
3 分钟 · 5 卡片 · 13 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问