7.4
深览指数
科技Bestblogs·AI Engineer··AI 生成

超越 RAG:Unblocked 如何构建节省 token 的关系型上下文引擎

Unblocked 的 Peter 提出,AI 智能体不仅需要 RAG 那样的语义检索,还需要能够执行结构化查询的关系型上下文引擎。他现场演示了一套从 schema 发现、跨系统身份映射、查询校验到重试和全文检索的完整架构,宣称能显著节省 token。但文章也指出,这仅是单个厂商演示,尚缺乏普遍的成本或准确率证据。适合关注 AI 工程化、系统架构的技术决策者阅读,评估其架构思路的实战价值。原文 ↗

核心观点
  • ▍智能体上下文引擎必须结合语义检索(RAG)与结构化查询(SQL/API),以应对不同类型的问题:开放式问题用语义搜索,涉及日期、数量、归属等精确问题则需执行关系查询。
  1. 01演示显示,接入该上下文引擎后,智能体在完成特定规划任务时消耗了更少的 token,用时也更短。
  2. 02引擎通过抽样文档(如 PR、Issue)来推断数据 schema,包括可用字段和枚举值。
  3. 03引擎实现了跨系统身份映射,将用户名(如 'peter')映射到不同系统中的实际账户或评审者 ID。
  4. 04生成的查询在执行前会经过严格校验,拦截危险 SQL 算子、未授权字段和跨租户访问,并自动注入租户 ID。
  5. 05引擎设计了有限次数的重试机制,允许模型根据执行错误(如字段不存在)自动修正查询。
  6. 06演示中,精确的标题匹配失败后,系统回退到全文检索,才找到了与'身份验证'相关的 PR。
反方 / 局限
  • — 文章内容本质上是厂商的案例分享和技术演示,其节省 token 和提升效率的结论仅来自单个演示场景,缺乏独立第三方验证或大规模用户数据支撑。
  • — 整个引擎架构的复杂性(schema 发现、身份映射、查询校验、重试)本身就是一种工程成本,对于中小团队或简单场景,可能不如传统的 RAG 方案直接。
3 分钟 · 5 卡片 · 13 资料
读原文 →

前置背景

技术原理

平行视角

未来推演

延伸追问