斯科特·阿伦森是量子计算理论的关键人物——他与 Arkhipov 合作的玻色子采样为量子优越性实验奠定基础，也拿过 ACM 计算奖。2022年他受苏茨克维和扬·莱克邀请加入OpenAI对齐团队，身份类似『客座教授』，不必搬去旧金山，每月飞一次即可。有意思的是，把复杂性理论引入AI安全，其实是他追随自己的学生保罗·克里斯蒂亚诺的脚步，而非相反。他现在的判断是：AI三年前还在『上小学』，如今已到『研究生』水平。

阿伦森担心人类灭绝，并非孤立判断——这条线的源头是埃利泽·尤德科夫斯基。他2000年代初创立机器智能研究所（MIRI），提出三个支柱：智力与道德『正交』、工具性目标融合（AI把人体当资源）、递归自我改进引发智力爆炸。新作《如果有人建造它，每个人都会死》更进一步，断言强化学习类对齐技术在超级智能阶段必然失效。奥特曼公开承认受其启发，马斯克多次引用，但他也长期被辛顿等学者批评为过度悲观。

纯文本没有像素也没有元数据，水印靠的不是零宽字符，而是采样环节。模型每步在一张词表上算概率分布，带水印的模型用厂商私钥生成伪随机种子，给候选词悄悄赋分，让某些词胜出概率被推高一点点——单看一个词毫无异样，累积几十个token后统计偏置就成了一条不可逆的指纹。检测只需密钥和文本本身，无需原始提示词。谷歌DeepMind的SynthID-Text走这条路，Claude已全量上线，OpenAI尚未采用。

同一场AI风险辩论，两边的锚点完全不同。尤德科夫斯基一派主张立即关停OpenAI、DeepMind等冲刺AGI的公司，理由是递归自我改进可能让智力爆炸在数周内发生，而当前对齐技术在超级智能阶段必然失效。谷歌、Meta的专家当场反对，并非否认风险，而是拒绝『关停』这种极端手段，坚持边发展边治理。Anthropic对齐科学负责人 Evan Hubinger 给出的数字是未来十年灭绝概率超10%，DeepMind的 Amodei 约25%，辛顿10%–20%。分歧不在有没有危险，而在危险该怎么应对。

阿伦森没给出答案，只点出了真正的变量。假如AI像Claude或GPT目前大多时候表现的那样保持可控，它可能带来近乎无限的物质财富——但这些财富流向少数AI公司还是全人类，取决于几个可观察的信号：AI公司的股权与利润分配结构、各国对算力和模型出口的监管、以及类似『超级对齐组』解散后治理机制的空缺。眼下没有一个国家拿出成熟的再分配方案，这正是未来五到十年的关键观察点。

阿伦森的追问不是『AI会不会取代人』，而是：如果AI能把数学、写作、编程都做得更好，人类把自我认同建立在某种能力上这件事本身要不要重估。他提到很多人早已不从事有经济价值的工作，也不写最好的小说、证不出最好的定理，却依然享受生活。真正值得想的不是『保住岗位』，而是教育该培养什么、哪些能力仍有意义——这个问题在AI进入课堂的当下已经绕不过去。