人文虎嗅·返朴··AI 生成
教皇也开始忧心AI，诺奖得主回应：人类尚未对AI引发的最隐蔽风险采取措施
诺贝尔物理学奖得主乔治·帕里西接受专访，系统回应了教皇方济各关于AI的通谕。他点明AI最隐蔽的风险并非人类主动委托决策，而是将政治性决定无声地包装为“技术性”问题，导致权力悄然转移。帕里西还就AI的黑箱问题、劳动市场冲击、国际治理缺失等发表了看法，认为复杂性不等于不可治理，当前缺乏的是为AI系统及时制定规则的政治意愿。适合关心AI伦理、社会影响及科技治理的读者阅读。原文 ↗原文 ↗
核心观点
- ▍AI最隐蔽的风险不是人类主动将道德判断委托给机器，而是将已成为政治决策的事情无声地称为“技术性”决定，导致权力在无人察觉中转移。
- ▍一项关乎思考、工作与决策的技术，不能只留给构建它的专家，还需要哲学家、人文学者和守护共同价值观的机构参与治理。
- 01帕里西认为技术从来不是中立的，设计者的价值取向早已内嵌其中，系统从包含偏见的数据中学习并放大偏见。
- 02深度神经网络的工作原理类似复杂系统，目前缺乏理论预测其行为，未来可能需要像心理学家一样通过观察和实验来研究AI。
- 03与工业革命不同，AI带来的变革在几年内发生，给社会留下的适应时间极短，劳动与权力的关系面临重塑。
- 04如今大多数前沿AI研究集中在少数私营公司，科学知识因商业机密而无法共享，阻碍了更广泛的创新。
- 05帕里西支持建立类似欧洲核子研究中心的公共AI研究机构，使知识保持为公共财富，让新参与者能够进入该领域。
- 06从联合国到世界卫生组织，本应确保国际治理的机构近年来被边缘化，这本身是“愚蠢的政治选择”，而非必然结果。
反方 / 局限
- — 帕里西承认，让人类始终处于决策中心在某些情况下会很困难，因为系统运转速度加快，将决策委托给机器的诱惑很大。
- — 帕里西表示，AI是否真的会变成一个无法治理的全球复杂系统，很大程度上取决于未来几年人类的选择，风险大小难以在今天精确评估。
概念锚点
前置背景
平行视角
未来推演
延伸追问