7.6
深览指数
科技Bestblogs·80, 000 Hours··AI 生成
让国际 AI 减速协议成为可能的技术：算力核验如何走出原型阶段
80,000 Hours 访谈 Amodo CEO Tom Milton，核心判断是算力核验能让 AI 研发承诺变得可核查，而非关停所有数据中心。原型通过监测网络流量并重算约定推理任务来约束不可解释通信，已在小规模 GPU 集群演示；零知识证明和抽样有望减少共享权重需求，功耗信号精度低且可被伪装。访谈区分了核查已知设施与发现未申报设施，强调红队演练、政府与实验室协作以及制造和建立互信的漫长周期。原文 ↗
核心观点
- ▍算力核验的目标是检查具体的算力使用承诺，而不是只能关闭所有数据中心；核验越精确，未来遵守 AI 减速协议的成本就可能越低。
- ▍确认已知设施内部在做什么，与发现未申报的设施是两个不同问题；情报搜集、公开研究、现场核查和硬件工具提供不同层次的信心，不能相互替代。
- 01Amodo 的原型监测网络流量，并重新计算约定的推理任务，以约束无法解释的通信；团队已在小规模 GPU 集群上演示这一方案。
- 02零知识证明与抽样未来有望减少共享模型权重的必要；功耗变化也能提供另一种信号，但精度较低，面对对抗性伪装仍有明显局限。
- 03Milton 主张开展红队演练，既尝试绕过核验，也测试信息泄露，并与 AI 实验室及政府协作，提前应对制造和建立互信所需的时间。
- 04AI 设计的电路板、定制唤醒灯和快速原型展示了实际收益，也暴露了设计质量不足；更快的实体反馈、工程师跨专业能力和团队协作仍是关键。
反方 / 局限
- — Milton 承认，有能力的对手可能伪装工作负载，而核验所需的效率代价尚不确定；现有原型需要访问约定模型，隐私与抗作弊仍是未解工程难题。
- — 核验能为未来协议增加选择，却不是已经解决所有问题的保证；可信部署需要远超实验室原型的准备，制造、量产、安装和建立互信都有不能忽略的周期。
3 分钟 · 2 卡片 · 4 资料
读原文 →