7.6
深览指数
科技腾讯新闻·虎嗅APP··AI 生成
“AI教父”辛顿最新警告：人类可能只剩一两年准备时间
在这场55分钟的深度访谈中，Geoffrey Hinton 不再只是重复“AI可能失控”的警告，而是具体讨论了前沿AI应像新药一样先证明安全性、监管的可行性窗口正在缩短、以及哪些职业会先被改变。他并不支持“停止AI”，而是主张建立方向性的监管框架，让开发者先证明安全而非让社会事后修补。文章适合关心AI风险、监管机制和职业变化的深度读者阅读。原文 ↗
核心观点
- ▍Hinton的核心主张不是停止AI，而是建立类似FDA的前沿AI审批机制，让开发者承担“上市前证明安全”的责任，改变当前“先发布后补救”的责任方向。
- ▍Hinton估计人类可能只剩一两年时间建立有效的监管和安全体系，这个窗口期非常紧迫，因为AI能力的指数级增长会迅速压缩政策反应时间。
- 01Hinton 参加了美国参议员闭门简报会，会上提出了AI产品应像药物一样承担“上市前证明安全”责任的监管思路。
- 02Hinton 高度评价了Anthropic CEO Dario Amodei提出的“Pace the Frontier”方案，认为方案本身是A，公开提出这件事的勇气是A+。
- 03Hinton 担心如果模型能力持续提升且AI开始帮助开发下一代AI，监管制度、安全测试和社会适应可能只有极短时间可以补课。
- 04Hinton 用自己使用GPT重新研究wake-sleep算法的经历说明，AI已能在技术讨论、实验设计和代码执行中形成连续研究回路，将一周的工作压缩到几分钟。
- 05Hinton 认为未来十年左右，水管工可能仍是不错的选择，因为现实世界的物理操作和灵巧性比数字世界的信息处理更难自动化。
- 06Hinton 担心教育中AI如果过度顺从，会取代真实社交关系，导致孩子难以学会协商、冲突、拒绝和边界。
反方 / 局限
- — Hinton 承认，“给AI一个关机按钮”并不能解决问题，因为安全还包括模型是否会隐藏能力、是否会测试时表现更安全等问题。
- — Hinton 反对“让AI监管AI”的方案，认为AI可以辅助测试和监控，但最终不能把价值判断和治理权一起交出去。
- — 关于“AI会不会杀死所有人类”的问题，Hinton 并没有给出确定的答案，而是强调风险窗口正在缩短。
Geoffrey HintonYoshua BengioAndrew BartoJakub PachockiJack ClarkSam AltmanDario AmodeiDemis HassabisJeff DeanAnthropicGoogleOpenAIFDASmart Girl Dumb QuestionsFDA-style AI approvalPace the Frontierwake-sleep algorithmknowledge distillationAI研发自动化智能爆炸Smarter Than Us
16 分钟 · 4 卡片 · 9 资料
读原文 →