6.9
深览指数
科技腾讯新闻··AI 生成
“不守规矩的人，反而占便宜”，DeepMind之父谈AGI与模型监管
Google DeepMind CEO 哈萨比斯在长文中断言 AGI 几年内可实现，影响堪比工业革命但速度十倍。他警告当前前沿实验室陷入“底线竞争”，不守规矩的抢跑者反占优势，因此提议美国牵头建立类似美国金融业监管局（FINRA）的 AI 标准机构，对前沿模型实施发布前独立安全评估和认证。文章包含其长文节选，并指出此文意在为谷歌即将发布的 Gemini 3.5 Pro 铺路。适合关注 AI 治理、科技政策及大模型竞争格局的深度读者。原文 ↗
核心观点
- ▍哈萨比斯认为，AGI 影响将相当于工业革命的十倍，速度也是十倍，且几年内就能实现，必须建立以安全为核心的全球监管框架。
- ▍当前前沿实验室陷入“底线竞争”，做安全更难、更费时，导致不守规矩的抢跑者反而占据优势，这一局面必须扭转。
- 01哈萨比斯在 G7 峰会上与 Anthropic CEO 共同提出，由美国牵头建立类似美国金融业监管局（FINRA）的 AI 标准机构，前沿模型发布前需通过独立安全评估和认证。
- 02哈萨比斯建议的标准机构为公私合作伙伴关系或自我监管组织，资金主要来自业界，负责制定评估协议，模型达到特定阈值即被归类为“前沿级”。
- 03被归为“前沿实验室”的组织需采纳最佳实践，包括发布模型卡、维护网络安全、审查关键人员，并在发布前最多 30 天自愿与标准机构共享模型。
- 04评估内容应包括网络安全、生物威胁、自主 AI 测试（如寻找绕过安全护栏的行为）等，并定期更新（初始每季度一次），最终建立独立测试能力。
- 05哈萨比斯称，美国凭借其经济和技术实力，完全有能力率先迈出这一步，该框架也向来自任何国家的前沿模型开放。
- 06文章指出，哈萨比斯此时发表长文，很大程度上是为谷歌计划于 7 月 17 日推出的 Gemini 3.5 Pro 铺路，该模型按前沿安全框架开发。
反方 / 局限
- — 文章虽未直接批判，但隐含了哈萨比斯提案的政治实操困境：一个由美国主导、业界资助的机构，如何获得全球范围内（尤其是地缘对手）的信任与合作？
- — 哈萨比斯所说的“安全框架先行”与“商业竞争驱动”之间存在内在张力——他本人所在的 DeepMind 及其母公司 Alphabet 本身就是这场“极限竞争”的核心玩家，其提案是否也是一种变相的市场壁垒或公关策略？
8 分钟 · 4 卡片 · 8 资料
读原文 →