科技Bestblogs·AI Engineer··AI 生成
你的 AI 分析师能保守秘密吗？桥水与 turbopuffer 谈权限检索
Bridgewater 的 AI 分析师 Vault 需要在权限各异的研究库上做检索。turbopuffer 的 Nikhil Benesch 说明，先搜后滤会砍掉召回，先滤后搜要扫数千万文档，于是把权限编码进过滤索引与聚类向量索引：先找含授权文档的簇，再查最近的合格簇。文中报出约 120ms P90 延迟，但这是厂商自测，字幕对向量总量说法不一。原文 ↗原文 ↗
核心观点
- ▍权限必须成为向量检索查询规划的一部分，而不是事后过滤——把用户/群组权限跟向量簇绑定，才能同时保住召回率和延迟。
- 01桥水内部 Vault 汇集外部研究、内部文章和会议记录，访问权限随文档、用户和群组变化，不能像公开网页语料那样统一处理。
- 02先搜索后过滤会不断丢弃最近的邻居，最终可访问文档过少，召回率极差；先过滤后搜索则可能被迫扫描数千万份有权限的文档，成本过高。
- 03原生过滤方案在 turbopuffer 中每个簇约含 200 份文档：先找出至少包含一份授权文档的簇，再检索距离较近的合格簇，最后评估簇内文档。
- 04冷数据留在对象存储以控制成本，活跃数据进入缓存；在 Vault 生产负载下报告约 120 毫秒的 P90 搜索延迟。
- 05权限只是隔离需求中的一层：嵌套群组成员关系仍是难题，区域部署、私有网络和客户控制密钥解决的是文档权限之外的隔离要求。
反方 / 局限
- — 120 毫秒 P90 延迟是厂商自报结果，并非独立基准；字幕对向量总数存在不一致表述，削弱了规模数字的可信度。
概念锚点
前置背景
技术原理
平行视角
争议局限
未来推演
延伸追问