8.9
深览指数
产品Bestblogs·叶小钗··AI 生成

一个生产级 AI 客服,到底是怎么做出来的?

作者基于两年实践,拆解生产级AI客服从0到1的七层能力:知识整理、意图识别、检索兜底、SOP接管、放权策略、成本核算与可观测性。核心贡献在于揭示了「AI上线后综合成本可能仍高于人工」这一反常识结果,并给出了降本应从工单整体而非模型层面入手的实操建议。适合已做过或正计划落地AI客服的产品/技术负责人阅读,用以校正预期与策略。原文 ↗

核心观点
  • 生产级AI客服需要一个从知识整理到业务接管的完整七层能力模型,且其综合成本在多数场景下可能仍高于纯人工客服,降本应着眼于整张工单而非仅模型选型。
  • 落地路径上应优先采用可预期的Workflow(工作流)而非灵活的ReAct Agent,以保证生产环境的稳定性和可控性。
  1. 01空气小猪在让AI上场前,团队先人工做了半年多客服,积累真实问法与解释方式,等高频问题开始重复后才启动AI项目。
  2. 02知识整理是最耗精力的环节:需人工合并产品知识与历史客服记录,按「可独立理解」原则分块,同一答案的多个问法关联到同一条知识并按ID去重,避免重复内容挤占召回空间。
  3. 03检索层采用向量(千问text-embedding-v4)+BM25混合召回,RRF融合与Reranker重排,并用显式字段useful判断知识是否足够回答,不足则送入待处理池。
  4. 04电商陪跑项目将完整SOP导入系统,模型负责理解表达,程序负责条件校验,工具负责查询和执行,仅路径无法确定时才引入有边界的Agent。
  5. 05放权经历了Copilot蜜月期、影子系统验证与场景地图重排三个阶段,最终AI覆盖超七成场景、承接近一半流量。
  6. 06综合成本高于人工的五个原因:建设费用、AI与人工并行双重成本、多轮模型调用耗时、工时未转化为支出下降、持续维护成本。
  7. 07降本方向为:取消逐条审核、减少不必要的模型调用、按节点选择不同规格模型(如简单场景用小模型)、同步调整排班与人员分工。
反方 / 局限
  • 作者承认,即使AI已覆盖超七成场景,综合成本仍高于人工,且「AI上线了,人力成本不但没降,反而又多了一笔AI的费用」这一现状短期内难以扭转。
  • 文章提到Workflow的局限:对于路径不可提前确定的交互(如复杂协商),不得不引入Agent,但Agent的稳定性和成本控制仍是棘手问题。
4 分钟 · 5 卡片 · 15 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问