7.7
深览指数
科技人人都是产品经理·是AD··AI 生成
推荐系统中,大模型该做哪一步(下):任务型模型、大模型与知识图谱的分工
本文延续上篇讨论,提出企业AI推荐场景中任务型模型、LLM与知识图谱的明确分工原则:任务型模型负责结构化数据上的概率预测与排序,LLM承担非结构化信息抽取、多意图对话理解与个性化话术生成,知识图谱负责多源实体关系建模。作者给出了五条可直接落地的技术设计原则,适用于银行、电商、运营商等数据密集型企业的客户经营场景。适合正在设计或评估企业AI推荐系统架构的从业者阅读。原文 ↗
核心观点
- ▍LLM在企业AI场景中的差异化价值是非结构化信息抽取、多意图对话理解与工具调度、建模辅助及个性化话术生成,而非替代任务型模型做概率预测与排序。
- ▍企业AI推荐系统应遵循五条原则:结构化预测留任务型模型,非结构化理解由LLM承担,确定性约束由规则系统执行,复杂关系由知识图谱组织,所有效果通过实验验证。
- 01LLM可将通话录音、客服对话、投诉工单等非结构化内容转化为结构化特征标签,如“近期搬家:是”、“宽带办理意向:强”、“预计办理窗口:30天内”。
- 02LLM在对话理解上的能力包括:识别单轮多重意图、基于上下文消解省略与指代、识别信息缺口并主动追问、根据对话状态调度业务工具。
- 03知识图谱可组织的典型关系路径包括:客户-账户/组织、客户-行为-场景、客户-产品、产品-依赖/互斥、渠道-客户、规则-客户/产品/渠道。
- 04分层评估体系包含数据层(字段完整率、冲突率等)、模型层(AUC、NDCG、Brier Score等)、LLM层(意图识别准确率、幻觉率、转人工率等)、经营层(转化率、增量收入、LTV等)。
- 05以运营商套餐推荐为例,任务型模型输出数值化推荐分(如“千兆宽带:0.81”),LLM将其转化为面向用户的自然语言解释。
- 06作者强调LLM提升了意图理解的灵活性,但并未消除业务规则定义,企业仍需预先指定工具集、二次确认策略、禁止自动办理场景等边界。
反方 / 局限
- — 作者承认LLM在低置信度/高风险场景中需触发转人工,说明其不适合完全无监督的自动决策场景。
- — 作者虽提出分层评估体系,但未讨论不同行业(如电商 vs 银行)在指标权重上的差异,以及多目标优化中可能出现的指标冲突(如转化率提升 vs 投诉率上升)。
7 分钟 · 3 卡片 · 5 资料
读原文 →