7.5
深览指数
科技少数派·SNbing54··AI 生成
当 ChatGPT Images 2.0 能够以假乱真，AI 厂商是如何给图像打上「钢印」的？
文章聚焦于 ChatGPT Images 2.0 等 AI 图像生成技术带来的信任危机，核心介绍了 AI 厂商应对此问题的两种主流技术方案：C2PA（基于 PKI 和链式记录的数字签名，类似数字身份证）和 Google DeepMind 的 SynthID（基于频域和对抗训练的隐形水印，更鲁棒）。文章详细解析了两种技术的原理、优缺点及当前面临的攻防博弈，并提供了可供读者使用的验证工具和创作者保护原创的手段。适合对 AI 安全、内容溯源技术以及数字信任议题感兴趣的读者，尤其是有技术背景或关注信息真伪鉴别的人。原文 ↗
核心观点
- ▍随着 AI 图像生成技术日益逼真，人类的视觉信任体系面临挑战，而 C2PA 和 SynthID 这两种技术成为当前解决 AI 图像溯源和真伪鉴别的核心手段。
- 01C2PA 技术的底层依赖 PKI（公钥基础设施），AI 厂商用私钥为图片生成数字签名，用户可用公钥验证，相当于给图片一张「数字身份证」。
- 02C2PA 支持链式记录，能记录图片从生成到编辑的全过程，例如一个由 ChatGPT Images 2.0 生成、再经 Photoshop 裁剪的图片，会形成一条包含 OpenAI 和 Adobe 签名的不可篡改链条。
- 03C2PA 的弱点在于其信息附加在文件元数据层，经社交平台压缩或直接截图后，元数据（包括 C2PA 信息）会被去除，导致验证失效。
- 04SynthID 隐形水印是一种「鲁棒性隐写术」，通过数学变换深入图像频域，在特定高频频段注入人眼不可见的微观噪声，即使经过有损压缩、截图等操作仍能被检测。
- 05SynthID 的健壮性来自对抗性训练：一个注入水印的模型与一个尝试破坏水印的模型相互博弈，迫使注入模型不断优化策略，直至水印难以被破坏。
- 062026 年 4 月，有开发者声称通过 200 余张 Gemini 生成图像能扰乱 SynthID 水印，Google DeepMind 随即采取动态改变水印嵌入频域的反制措施。
反方 / 局限
- — C2PA 和 SynthID 技术目前面临的主要攻防博弈是：C2PA 易因社交平台压缩或截图而失效，SynthID 虽更鲁棒但也有被针对性攻击的可能，表明没有绝对安全的系统，技术对抗是持续升级的过程。
- — 文章虽然介绍了多种验证手段，但并未深入讨论这些技术在普通用户端的普及度、易用性以及恶意用户如何通过多步操作（如AI生成后人工修改再截图）来规避检测的实际困难。
12 分钟 · 5 卡片 · 9 资料
读原文 →