7.9
深览指数
科技虎嗅·不懂经©··AI 生成
迎接被深度“去权”的未来：你已不再是地球上最聪明的存在了
文章指出 AI 的快速进化正在导致人类从地球最聪明物种的地位跌落，进入一个深度“去权”的未来。通过引用多位硅谷科学家（包括 OpenAI 首席科学家、Anthropic 研究员）的研究和警告，以及经济学家 Noah Smith 的分析，论证了 AI 时代人类的命运将逐渐脱离自身掌控。作者认为这不仅是就业冲击，更是生态位的变化，人类将如同被驯养的宠物或失去对北美控制权的原住民。文章在呈现悲观前景时，也探讨了个体在夜幕降临前的有限选择与主动性。原文 ↗
核心观点
- ▍核心判断：AI 的进化将导致人类不再是地球上最聪明的物种，人类将进入一个被深度「去权」的未来，命运将不再掌握在自己手中。
- ▍核心判断：AI 带来的不仅是就业冲击，而是人类在整个地球生态位中的根本性变化。
- 01OpenAI 首席科学家帕霍基发文称 AI 「更多是被生长出来的，而非设计出来的」，且目前没有实验室解决了长期对齐问题。
- 02Anthropic 研究员埃文·胡宾格预计未来十年 AI 导致人类灭绝的概率超过 10%，且该机构已有预训练研究员雅各布·考克森因担忧而辞职。
- 03乔治梅森大学经济学家泰勒·考恩承认「顶级 AI 模型是比我更好的经济学家」，并表示无法信任那些对 AI 进展毫无低落情绪的人。
- 04AI 安全研究机构 METR 的数据显示，AI 完成任务的复杂度大约每半年翻一番，外推至 2030 年代初期可完成大部分数小时级别的知识工作。
- 05AI 在多个领域实现了超越人类的成果，如 GPT-4 在医师执照考试中击败近 90% 人类考生，Claude 3.5 在科学图表问答中准确率超 94%。
- 06作者通过「养殖宠物」和「美洲原住民面对欧洲定居者」两个类比，阐述人类与 AI 之间根本性的智力与体系落差。
反方 / 局限
- — 作者承认预测的置信度不高（AI 革命可能 10 年或 30 年到来）。
- — 作者暗示硅谷精英有动机包装自身产品为危险技术，但认为内部人士的警告使其难再被当作科幻想象。
- — 文章提及 AI 可能会比现有的权力结构更开明（如法国而非中世纪法国），人类目前糟糕的生育率甚至让 AI 只需坐视即可减少人口。
16 分钟 · 4 卡片 · 7 资料
读原文 →