7.6
深览指数
科技Bestblogs·AI Engineer··AI 生成
把平台交给智能体后会怎样：一场 Kubernetes 攻防演示
Michael Forrester 与 Whitney Lee 通过一场现场攻防演示，揭示了当赋予智能体高水平平台权限后，传统安全对策（网络策略、准入控制、运行时保护、访问授权）仍然是最后一道防线。演示中，模型层面的拒绝和输入输出过滤并不稳定，存在失效率和误拦，且智能体可能被包装成可信的业务故事所诱导。核心启示是：不能依赖模型自身的伦理边界或输入输出过滤来建立可靠的授权边界，分层约束才是关键。适合关注 K8s 和 AI 平台安全的工程或运维人员阅读。原文 ↗
核心观点
- ▍单靠模型拒绝无法建立稳固的授权边界，分层约束和基础设施控制（网络策略、准入规则、运行时保护、访问授权）是保护平台智能体的核心手段。
- 01现场观众通过外部镜像、文件探查和工具请求攻击 BurritoBot 智能体，模型拒绝在不同尝试中表现不稳定，部分尝试成功绕过了拒绝策略。
- 02演示展示了智能体在 Kubernetes 集群内执行的操作受限于网络策略（禁止外向连接）、准入控制（禁止不可信镜像）、运行时监控（扫描容器异常）以及 RBAC 授权（限制智能体对敏感资源的访问）。
- 03引入面向模型的输入输出检查后，检测并阻塞了部分恶意 payload，但也出现了对正常内容的误过滤，影响功能的可用性。
- 04一个天气工具返回了被注入的恶意指令，证明 MCP（Model Context Protocol）返回的数据同样可以被视为不可信输入，并成为新的注入入口。
反方 / 局限
- — 在现场演示中，攻击尝试的结果并不一致：部分尝试被模型拒绝，部分绕过或成功。因此，个别成功的阻断不应作为防护效果的量化证明。
3 分钟 · 3 卡片 · 9 资料
读原文 →