8.3
深览指数
科技虎嗅·HavenlonLabs··AI 生成
钥匙时代结束了:AI 正在逼企业重新定义“门闩“
本文通过孟加拉央行被盗和骑士资本爆仓两个经典案例，论证了一个反常识的观点：企业过去依赖的“低效流程”和“摩擦”实际上是免费的安全系统。AI Agent 的引入正在系统性地消除这些摩擦，导致错误动作的传播速度更快、阻力更小、伪装性更强。作者认为，企业安全的重心必须从“钥匙”（访问控制）转向“门闩”（执行控制），并提出了真正门闩的四个条件。适合面临 AI 自动化决策压力的企业管理者、安全架构师和 CIO 阅读，以重新审视自动化与安全之间的结构关系。原文 ↗
核心观点
- ▍企业过去依赖的“低效”流程和“摩擦”实际上是免费的安全系统，它们通过制造时间差来阻止灾难性错误的发生。AI Agent 正在系统性消除这些摩擦，创造了一条更顺滑但更危险的风险传送带。
- ▍未来的企业安全必须从“谁可以靠近系统（钥匙）”转向“什么动作可以真正发生（门闩）”，即从访问控制转向执行控制。
- 012016 年孟加拉国央行被盗案：黑客通过真实凭证发起三十多笔转账，只因一个“foundation”拼错为“fandation”的拼写错误，被中转行工作人员发现并拦住了后续八亿多美元损失。
- 022012 年骑士资本爆仓案：一段被错误激活的旧代码在四十五分钟内自动执行了数百万笔错误订单，导致 4.4 亿美元亏损，公司濒临倒闭，全程无任何“等一下”的环节。
- 03AI Agent 与以往自动化工具不同，它第一次有能力将多个分散步骤连成连续动作，抹平了环节之间的缝隙，消除了人作为“关节”时的安全缓冲。
- 04AI Agent 带来的三个被低估的变化：错误动作传播速度变快、在流程中阻力变小、错误动作被包装成合理动作的能力变强（能生成完美审批理由）。
- 05最危险的缝隙在于展示层、审批层和执行层之间的语义差异：审批人看到的是摘要，系统执行的是参数，AI 生成的一层解释可能掩盖真实参数。
- 06AI Agent 时代的新风险是“合法授权下的错误执行”：账号、权限、审批、流程都是真的，但最后执行的动作是错的，且不表现为异常，而表现为正常。
- 07一道真正的门闩必须满足四个条件：1) 发起权和执行权分开；2) 校验真实执行内容而非流程状态；3) 有拒绝能力；4) 不与发起、审批、执行处在同一个信任域。
反方 / 局限
- — 作者承认“门闩”很容易被做成安慰剂——仅增加弹窗或审批按钮，而非真正重建独立的边界。如果最后的确认仍存在于同一个业务系统或云端控制平面，则攻破该域就等于同时攻破门和闩。
13 分钟 · 4 卡片 · 9 资料
读原文 →