7.9
深览指数
科技人人都是产品经理·易安说AI··AI 生成

刚刚,Anthropic公开内部RSI落地方法论

Anthropic 公开其内部 AI 研发自动化方法论,核心是 AL0 到 AL5 六级量表,用于衡量 AI 在研发工作中的参与度。截至 2026 年 8 月,Claude 已在约 26% 的 AI 研发任务中处于“AI 主导”(AL4)状态,且该比例半年内从接近零快速增长。文章深入阐述了大规模 Agent 系统的在线与离线监控机制,并指出递归自我改进(RSI)的关键瓶颈在于评估器质量,而非单纯的代码量。对于希望构建自主 Agent 的团队,文章建议优先在边界清晰的任务上建立有界自动化,并管好评估、监控与人工接管机制。原文 ↗

核心观点
  • ▍Anthropic 提出的 AL0 到 AL5 六级自动化量表是衡量 AI 研发参与度的有效方法,而递归自我改进(RSI)的关键瓶颈在于评估器质量,而非 AI 能写多少代码。
  1. 01截至 2026 年 8 月,Claude 在约 26% 的 AI 研发工作中处于 AL4(AI 主导)状态,超过 90% 的任务至少进入 AI 协作阶段(AL3)。
  2. 02从 2026 年 3 月到 8 月,进入 AL4 的工作比例从 1% 增长到 26%,半年内增长斜率比绝对值更具关注价值。
  3. 03Anthropic 内部平台同时运行约 3 万个 Agent,2026 年 8 月产生了超过 10 亿次决策;其中约 0.002% 被在线监控系统拦截。
  4. 04Anthropic 对 Agent 系统采用两层监控:在线 Monitor 在动作执行前拦截危险行为(100% 动作检查),离线 Monitor 事后分析记录,每周约 50 条升级到人工处理。
  5. 05Anthropic 通过分析 Slack 和研发文档,梳理出约 1.5 万项模型研发工作,拆成 542 个节点,以此评估自动化程度,比单纯统计“AI 写的代码量”更准确。
  6. 06文章区分了“有界自我改进”(目标、标准固定)和“开放式 RSI”(连改进标准都可修改),认为当前工业实践更应优先做好有界改进。
反方 / 局限
  • — 文章指出“模型评估模型”的架构(如 Claude 生成、Claude Agent 调查、Claude Judge 评级)容易形成自我确认循环,因此需要人类抽样、独立验证集和第三方校验来对冲。
  • — 0.002% 的拦截率不能简单理解为“风险很低”,因为 Agent 基数巨大,这个比例仍会产生大量真实事件,平台需同时关注覆盖率、延迟和升级率。
7 分钟 · 5 卡片 · 9 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问