科技腾讯新闻·新智元··AI 生成
诺奖得主哈萨比斯震撼发声：AGI影响将是工业革命10倍！
文章翻译并解读了 DeepMind 创始人 Demis Hassabis 关于 AGI 即将到来的最新公开信。核心观点是 AGI 的影响将是工业革命的 10 倍规模与 10 倍速度，并提议设立一个类似金融监管局的国际机构，对前沿 AI 模型进行发布前 30 天的强制性安全评估。此文适合关心 AI 治理、AGI 时间线及超级技术风险与前景的读者，可作为了解顶级 AI 领袖具体政策主张的原始材料。原文 ↗原文 ↗
核心观点
- ▍哈萨比斯认为，通用人工智能 (AGI) 可能在几年内实现，其影响将是工业革命的 10 倍，且以 10 倍的速度展开，人类可能迎来一个资源不再成为制约因素的富足新时代。
- ▍哈萨比斯提出一个具体的治理框架：设立一个仿照美国金融业监管局 (FINRA) 的「前沿AI标准机构」，对所有达到「前沿级」的模型实施发布前 30 天的强制性安全评估，极端情况下可协调全球实验室放缓研发。
- 01哈萨比斯将 AGI 的变革性比作人类发现电和学会用火，认为其远超互联网等技术的变革。
- 02文章指出，AI 前沿进展的速度已超过社会对其理解的速度，存在一场激烈且多层交织的商业与地缘政治竞赛。
- 03该框架的具体细节包括：模型卡、内部网络安全、关键岗位背景审查、针对网络安全和生物威胁的严格测评、对智能体AI的欺骗性测试，以及数字水印等最佳实践。
- 04哈萨比斯承认，即便解决了技术难题，还将面临「后稀缺」时代的经济模式、价值观、人生意义等更复杂的经济和哲学问题，且这些问题不能只留给技术人解决。
反方 / 局限
- — 哈萨比斯本人承认，世界上没有人能确定 AGI 会如何发展，连专家们也是各执一词，这体现了其预测本身存在巨大不确定性。
- — 该框架隐含的前提是「美国有能力率先制定框架」，并假设国际社会能最终达成共识，这忽略了地缘政治竞争可能使该框架难以落地或被其他国家效仿的现实。
前置背景
平行视角
未来推演
延伸追问