7.4
深览指数
科技Bestblogs·腾讯技术工程··AI 生成
TGR-GenRec:从 next-item 到 next-slate 端到端生成
腾讯技术工程团队提出用生成式模型替代推荐级联中的判别式决策阶段,给出两条路径:BARGE 在 next-token prediction 范式内修补 item 边界丢失与语义漂移,HiGR 把推荐单元从单个 item 提升为整屏 slate,做列表级规划与偏好对齐。文中称两者均已在多个业务场景全量上线,属于少见的工业界生成式推荐落地复盘。适合有推荐系统或大模型背景、想了解生成式范式工程细节的读者。原文 ↗
核心观点
- ▍传统级联推荐中的判别式模型(如 DLRM)存在扩展性差、目标割裂、协同信号覆盖不足三重限制,应改用生成式范式端到端替换判别式决策阶段。
- ▍BARGE 不推翻 next-token prediction 范式,而是在 SID 建模、编码器、解码器、解码策略四个环节做结构性适配,修补 NTP 的 item 边界丢失和语义漂移。
- 01BARGE 的四项改进分别为 OSQ-VAE 的 SID 建模、Item Context-Aware(ICA)注意力块、Hierarchical Path Reranking(HPR)模块与双路解码(DPD)。
- 02NTP 范式下 item 的层级语义 ID(SID)被展平,模型难以区分 item 边界与上下文,这是边界丢失问题的结构性成因。
- 03HiGR 采用 next-slate prediction,把整屏 slate 编码为结构化语义 ID,用粗到细解码器同时优化列表顺序、多样性与整体质量,而非逐项打分。
- 04HiGR 把『编码→规划→生成→对齐』做成一体化列表级生成框架,并已在多个业务场景全量上线。
- 05偏好对齐使用基于奖励模型的 ORPO 等方法,可控生成则用于在解码时注入多样性与流行度等全局约束。
反方 / 局限
- — 文中未交代 BARGE 与 HiGR 相比原判别式级联在核心指标上的具体提升幅度,全量上线不等于效果被量化验证。
- — 生成式推荐依赖语义 ID 与奖励模型,链路比判别式级联更长,延迟与算力成本是否可控未在摘要层面讨论。
3 分钟 · 6 卡片 · 15 资料
读原文 →