科技 TechCrunch · 6小时前 · AI 生成
Signal 总裁梅瑞迪斯·惠特克提醒你：AI 聊天机器人「不是你的朋友」 Signal 总裁梅瑞迪斯·惠特克在接受彭博社专访时，尖锐指出人们不应将 AI 聊天机器人视为有意识的伙伴。她认为，向 AI 提问会「关闭或遮蔽」自己的思考过程，并警告类似微软 Copilot 接管购物等场景，本质上是要求系统获取信用卡、通讯记录、家庭地址等深度权限，在 Signal 的语境下「构成了一种后门」。文章浓缩了她对 AI 隐私风险的核心警告，适合关注科技伦理与隐私的读者快速了解其立场。原文 ↗ 原文 ↗
核心观点
▍ AI 聊天机器人不是有意识的生物或对话者，只是对已有信息取平均的统计系统，不应被视为朋友或可信赖的对话对象。 ▍ 允许 AI 助手拥有深层权限（如访问信用卡、浏览器、通讯应用、地址簿）来实现代购等任务，本质上是在多个应用中开了一个后门，对端到端加密的通讯应用（如 Signal）构成根本性威胁。 01 惠特克承认自己偶尔使用 AI 工具「格式化文档」，但拒绝向其提问，因为她不想让基于已有信息平均的系统「关闭或遮蔽」自己认真思考的过程。 02 她引用微软 AI CEO 穆斯塔法·苏莱曼的预测（用户今年可以完全让 Copilot 代劳圣诞购物），并剖析该场景下系统需要获取的权限清单：信用卡、浏览器、Signal 通讯、代替用户联系亲属的能力、家庭地址、日历。 03 惠特克明确指出，上述权限在 Signal 的语境下「构成了一种后门」，直接挑战了该应用以端到端加密为根基的安全承诺。 反方 / 局限
— 文章未提及惠特克或 Signal 是否认同 AI 在特定严格限定的、非个人通讯领域的隐私保护价值（如医疗数据分析），也未讨论是否有技术方案能在保存隐私的前提下实现部分 AI 助手功能。
29 分钟 · 5 卡片 · 10 资料
读原文 →
概念锚点 「后门」的真面目
惠特克警告的核心，不是AI聊天机器人本身，而是它被赋予的系统权限链条。微软的Copilot若要替你完成圣诞购物，就需要访问你的信用卡、通讯录、家庭地址、日历甚至Signal消息。这在端到端加密语境下，相当于在Secure Enclave上凿了个洞——合法功能与后门的边界，取决于系统能读取什么，而非意图好坏。
▸ 2 条关联资料
▼
前置背景 Signal协议为何不能有后门
Signal的安全基石是Signal Protocol，它通过双棘轮算法和X3DH密钥交换确保消息只有收发双方能读取，连服务器也看不到。一旦AI代理被授予读取Signal消息的权限，就绕过了这套加密体系——惠特克所说的「后门」，不是理论漏洞，而是架构层面的降级：从零知识降为完全信任代理人。
▸ 3 条关联资料
▼
平行视角 微软的Copilot已经出过事
惠特克的警告不是杞人忧天。2026年6月，微软Copilot被曝出高危漏洞SearchLeak（CVE-2026-42824），攻击者可诱导AI将2FA验证码、邮件内容等嵌入图片URL外传。同一时期，GitHub Copilot被爆输出已删除的私有代码，账单突变陡增数十倍。两起事件说明：AI代理的权限一旦越界，服务器端加密和沙箱都可能被自然语言指令绕过。
▸ 1 条关联资料
▼
未来推演 端到端加密还能撑多久
惠特克的警告背后是更大的博弈：政府要求科技公司提供加密后门（如加拿大C-22法案），AI厂商想要跨应用权限，而Signal坚持零知识架构。当下能看到的关键变量是苹果和Meta对C-22的公开反对，以及金融监管对AI操作银行App的拦截（建行、农行已封禁AI模拟点击）。焦点将从「是否给权限」转向「谁来决定给不给」，窗口期在2027年各国AI立法落地前。
▸ 2 条关联资料
▼
延伸追问 AI代理的权限边界在哪
惠特克说「不是朋友」，但问题不止于此。如果AI只能读取日历和邮件，算不算后门？如果它被授权替你查银行余额但无权转账呢？真正的边界不是能力本身，而是委托与监控的模糊地带——当用户对AI说「帮我付个账单」，那到底算我是主人，还是它在悄悄给第三方发代码？
▸ 2 条关联资料
▼