6.6
深览指数
科技TechCrunch·Russell Brandom··AI 生成

DeepMind CEO 呼吁建立独立标准机构监管前沿 AI

DeepMind CEO 哈萨比斯在 X 平台发文,提议效仿美国金融业监管局(FINRA)建立一个新的独立标准机构,负责测试前沿模型并制定发布前的最佳实践。该机构将由行业出资、独立运作,最初为自愿审查,待协议成熟后可能要求所有前沿模型通过评估才能在美部署。文章体现了 AI 行业内部对政府监管缺乏专业性的不满,以及试图通过行业自律解决监管争议的务实路径,同时也反映了白宫对设立专门 AI 监管机构的抵触态度。原文 ↗

核心观点
  • 哈萨比斯认为,应建立一种类似 FINRA 的行业自律组织,作为独立标准机构来监管前沿 AI 模型,而非依赖政府内部的直接监管或完全放任市场。
  1. 01哈萨比斯在 X 平台发布的长文《A Framework for Frontier AI and the Dawning of a New Age》中,明确提出了建立该标准机构的框架。
  2. 02该机构模式参考了美国金融业监管局(FINRA),一个由行业出资、政府授权但独立运营的行业自律组织。
  3. 03提议的初期阶段,前沿实验室将自愿在模型发布前最多 30 天,向该标准机构提交模型供审查。
  4. 04哈萨比斯设想,一旦评估协议被证明有效和稳健,将迅速走向正式化,意味着前沿模型必须通过评估才能在美国市场部署。
  5. 05文章指出,该提案是对美国政府此前对 Anthropic 和 OpenAI 的模型进行临时审查的回应,这些审查因缺乏技术专业性和决策不透明而受到广泛批评。
  6. 06白宫 AI 顾问、a16z 合伙人 Sriram Krishnan 已公开排除了在行政分支内设立 AI 监管机构的可能性,声称“不会有类似于 FDA 的 AI 监管机构”。
  7. 07哈萨比斯设想该机构由开源社区代表和行业内部技术专家组成,资金来自 AI 实验室,并可外包部分评估给专门的 AI 安全团体。
反方 / 局限
  • 文章未提及该提案自身可能面临的挑战,例如:行业出资是否会影响机构独立性、开源社区代表的利益冲突、以及如何确保落后实验室也能遵守评估标准。
7 分钟 · 5 卡片 · 10 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问