科技 腾讯新闻 · AGIHunt · 昨天 19:41 · AI 生成
DeepMind CEO长文预言：AGI即将降临 Google DeepMind CEO Demis Hassabis 发表长文，核心判断是通用人工智能（AGI）将在几年内降临，其影响将是工业革命的10倍，速度也是10倍。但他将重心放在治理提案而非预言上，呼吁美国牵头成立一个类似金融业FINRA的「前沿AI标准机构」，对新模型进行发布前评测，并在必要时协调各大实验室放缓开发。文章适合关注AI治理、技术政策与行业未来走向的读者阅读，以了解这位学院派掌门人当前最审慎的监管思路。原文 ↗ 原文 ↗
核心观点
▍ Hassabis 的核心判断是 AGI（一个具备大脑所有认知能力的系统）将在几年内到来，其影响将是工业革命的10倍，速度也是10倍。 ▍ 他呼吁美国牵头成立一个「前沿AI标准机构」，参照FINRA模式，对新模型进行发布前安全评测，并在必要时协调各前沿实验室放缓开发。 01 Hassabis 认为，我们正站在奇点的山脚下，AGI 不是互联网级别的突破，而是火与电级别的发现，本质上是「让沙子思考」。 02 该标准机构将定义「前沿级」模型，达标的公司成为「前沿实验室」；新模型发布前需最多提前30天送审，先自愿、后强制。 03 评测覆盖网络安全、生物威胁及agentic AI的欺骗行为，评测会定期更新，并最终由标准机构独立开发私有测试集以防止过拟合。 04 Hassabis 承认，目前前沿的进展速度已经超过了对这项技术的理解速度，世界上没有人能确切知道接下来会发生什么。 05 他提到，未来将面临更复杂的经济和哲学问题，如后稀缺世界的经济模式、人类的意义与目标，这些问题不能只留给技术人员解决。 反方 / 局限
— 作者承认，当前AI领域陷入一场极其激烈、多层次的商业和地缘政治竞赛，这种竞争态势推动了快速进步，但也使进展速度超过了理解速度。 — 文中暗示，该监管框架的落地面临巨大不确定性：竞争压力可能使自愿审查难以执行，国际市场协调也充满挑战。 26 分钟 · 4 卡片 · 11 资料
读原文 →
前置背景 FINRA 模式如何运作
Hassabis 提议参照 FINRA 来监管前沿 AI。FINRA 由美国证券商协会和纽交所监管部合并而成，2007 年成立，目前监管 4400 家经纪商、63 万名注册代表。核心机制是「发照+执法+教育」：发照设置高准入门槛，执法用 300 多种算法 24 小时扫描异常交易，教育则把硬知识拆成大众语言。对 AI 治理的启示是：一个行业自律组织，也能通过技术手段和标准制定，实现对快速迭代领域的高效监管。
▸ 2 条关联资料
▼
平行视角 三大掌门人的「宣言」对位
Hassabis 这篇不是孤例。OpenAI 的 Altman 在《智能时代》中预言超级智能几千天内到来，核心论据是「深度学习行之有效，规模越大效果越好」，但未给出新证据，被 TechCrunch 批评为「皇帝的新衣」。Anthropic 的 Amodei 则写了 2.8 万字的《充满爱的机器》，不提时间线，而是系统推演「压缩的 21 世纪」——生物学家 50 年的进步压缩到 5-10 年。三篇宣言的差异：Hassabis 最审慎、侧重治理，Altman 最乐观、侧重进展，Amodei 最具体、侧重落地路径。
▸ 3 条关联资料
▼
未来推演 AGI 治理的三条路线之争
Hassabis 的 FINRA 式机构只是三条路线之一。欧盟 AI Act 走「强制分级」路线，已生效，要求系统性风险模型通过第三方「认知边界测试」认证。美国 2025 年政权更替后撤销了拜登的行政令，转向「去障碍、促创新」路线，不再强制安全报告，并用联邦优先来压制州级严格监管。中国则以网信体系为牵引，强调内容安全、数据合规与分级评估，已发布《人工智能安全治理框架》。短期（2027 年前）的关键变量是：欧盟 AI Act 落地后的执法力度，以及美国是否会重新收紧。
▸ 3 条关联资料
▼
延伸追问 「后稀缺」离我们有多远
Hassabis 在文末提出「后稀缺世界」的经济与哲学问题。马斯克最近预言 AI 将在 5 年内消灭贫困，核心逻辑是 AGI 加上机器人使劳动力成本趋近于零、经济增速突破三位数。但这条推演面临三个真实的质疑：第一，AGI 本身尚未实现，时间表成谜；第二，生产力飞跃不自动导向分配公平，可能先加剧不平等；第三，「后稀缺」假设忽略了人类对地位、独特性等非物质的稀缺追求。真正值得追问的或许是：AGI 到来后，富足是结果，还是选择？
▸ 3 条关联资料
▼