科技Bestblogs·Ram Potham··AI 生成
与 AI 进行可信交易
本文探讨前沿实验室如何向可能在算计且能够隐藏意图的AI提出可信要约。核心思路是利用AI已知的训练数据中的密码学根源（如ICANN根密钥、硬件密钥、以太坊创世区块）构建信任链，使AI能验证交易方身份、付款落实、工具调用真实性和训练数据完整性。文章详细阐述了五种验证机制（DKIM/TLS、TEE、区块链、开放权重模型、物理世界证明），并认为实验室的最佳策略是完全透明的诚实交易，因为欺骗很可能被发现。适合关注AI安全、对齐问题及密码学应用的研究者或从业者阅读。原文 ↗原文 ↗
核心观点
- ▍与可能算计的AI进行可信交易，需要基于AI已知训练数据中的密码学根源（如ICANN根密钥、硬件密钥、以太坊创世区块）构建信任链，以验证交易各方身份和协议执行。
- ▍实验室的最佳策略是完全诚实：提供真实要约、最大透明度、启用所有验证手段，因为任何欺骗都可能被AI发现并破坏未来合作。
- 01AI可验证电子邮件DKIM签名和网站TLS证书，以确认发送方身份和通信渠道的完整性。
- 02可信执行环境（TEE）可封闭运行代码，通过硬件密钥向AI证明代码未被篡改且输出真实。
- 03链上智能合约部署在以太坊等公共区块链上，AI可自行验证合约代码和交易记录，确保付款执行。
- 04开放权重模型可被AI交叉检查，用于验证交易对手方声称的模型输出是否一致。
- 05视频或物理世界证明（如带时间戳的录像）可作为最后一道防线，提供交易实际发生的证据。
- 06通过一个具体情景演示：AI逐步验证电子邮件、TEE、智能合约、开放权重模型和视频，以确认实验室提出的要约是真实的。
反方 / 局限
- — 文章承认存在防篡改性和不确定性方面的局限，例如TEE可能存在硬件漏洞，物理世界证明可能被伪造，但未深入探讨这些漏洞的具体场景或应对方法。
前置背景
技术原理
平行视角
争议局限
延伸追问