UniGD:一种用于工业检索的统一生成-判别框架

arXiv cs.AI 论文

摘要

快手研究者提出UniGD,一个用于工业检索的统一生成-判别框架,将检索与相关性评分整合到单一模型中,并采用CAGE与CAM等技术来提升效果并降低延迟。在线A/B测试显示,广告收入提升5.78%,推理延迟降低33.1%。

arXiv:2608.03150v1 公告类型:新 摘要:生成式检索(Generative Retrieval, GR)是工业搜索广告中一种有前景的范式,但其部署受到严格的相关性和延迟要求的制约。现有系统将GR与独立的相关性模型级联,使生成似然目标与查询-广告相关性判别相互解耦,这损害了效果并增加了服务成本。我们提出了一种统一生成-判别框架(UniGD),在单一模型中整合了检索与相关性评分。为了缓解联合优化中的梯度干扰,UniGD引入了冲突感知梯度增强(CAGE)来自适应地协调这两个目标。UniGD进一步设计了码本锚定表示模块(CAM),将物品表示锚定到从多模态预训练模型中蒸馏得到的冻结分层码本上,从而赋予其丰富且可泛化的语义先验。针对异构的短视频、商品和直播广告,UniGD提出了异构广告素材建模(HAM),在共享主干上捕获跨类型的语义共性,同时保留类型特定的建模能力。在快手搜索广告平台上的在线A/B测试表明,UniGD使广告收入提升了5.78%,推理延迟降低了33%,并改善了判别式相关性估计。在NQ320K和MS300K上,UniGD的Recall@10分别比最强的复现GR基线提升了8.44%和3.19%。
查看原文
查看缓存全文

缓存时间: 2026/08/05 07:39

# UniGD:面向工业检索的统一生成-判别框架

Source: https://arxiv.org/html/2608.03150  
Shujie Ji∗, Yawei Kong∗, Yilin Zhao, Li Wang†, Xialong Liu, Peng Jiang  
快手科技,北京,中国  
\{jishujie03, kongyawei, zhaoyilin05, wangli18, zhaolei16, jiangpeng\}@kuaishou\.com

###### 摘要
生成式检索(Generative Retrieval, GR)是工业搜索广告中一种很有前景的范式,但其部署受到严格的相关性和延迟要求的制约。现有系统将GR与独立的相关性模型级联,将生成似然目标与查询–广告相关性判别相解耦,这损害了效果并增加了服务成本。我们提出了一种统一生成-判别框架(UniGD),在单一模型内整合检索与相关性打分。为了缓解联合优化中的梯度干扰,UniGD引入了冲突感知梯度增强(CAGE)来自适应协调两个目标。UniGD还设计了码本锚定表示模块(CAM),将物品表示锚定到从多模态预训练模型蒸馏得到的冻结分层码本上,从而赋予其丰富且可泛化的语义先验。针对异构的短视频、商品和直播广告,UniGD提出了异构广告物料建模(HAM),在共享主干上捕获跨类型语义共性,同时保留类型特定的建模能力。在快手搜索广告平台上的在线A/B测试表明,UniGD使广告收入提升5.78%,推理延迟降低33.1%,并改善了判别式相关性估计。在NQ320K和MS300K上,UniGD的Recall@10分别比最强复现GR基线提升8.44%和3.19%。

关键词:生成式检索,搜索广告

## 引言

搜索广告系统必须在严格的延迟约束下,从数亿候选中检索语义相关的广告。传统的多阶段检索流水线通过逐步候选过滤来应对这一挑战,但每个阶段通常是独立优化的,导致目标不一致,整体检索效果受限。生成式检索(GR)(Tay et al.2022 (https://arxiv.org/html/2608.03150#bib.bib25); Bevilacqua et al.2022 (https://arxiv.org/html/2608.03150#bib.bib2)) 近年来作为大规模候选检索的一种有前景的范式受到越来越多的关注。通过自回归解码,GR将候选检索转化为语义标识符(SIDs)的条件生成 (van den Oord, Vinyals, and Kavukcuoglu2017 (https://arxiv.org/html/2608.03150#bib.bib26); Rajput et al.2023 (https://arxiv.org/html/2608.03150#bib.bib20); Deng et al.2025 (https://arxiv.org/html/2608.03150#bib.bib6))。这种生成范式超越了传统的基于匹配的检索,实现了查询–候选语义交互的统一建模。

在真实世界的工业搜索广告部署中,GR通常与下游相关性模型级联,以确保最终结果的相关性。具体来说,GR首先通过自回归生成似然检索出top-K候选广告,然后相关性模型利用查询–广告匹配信号赋予判别式相关性分数。尽管这种级联范式在实际中得到了采用,但在工业部署中仍面临几个关键挑战。

(1)目标不一致和服务开销。生成式检索与判别式相关性打分之间的差异可能导致生成概率较低的相关广告在top-K截断阶段被过早丢弃,而无法到达下游相关性模型进行重新打分 (Tang et al.2024 (https://arxiv.org/html/2608.03150#bib.bib24); Cheng et al.2025 (https://arxiv.org/html/2608.03150#bib.bib4))。此外,级联GR范式引入了额外的在线推理延迟。尽管已有研究引入排序监督来重塑生成似然的相对顺序 (Zhou et al.2024 (https://arxiv.org/html/2608.03150#bib.bib36); Li et al.2024b (https://arxiv.org/html/2608.03150#bib.bib12))

相似文章

统一建模与探索的生成式自动竞价

arXiv cs.AI

本文介绍了Guide框架,该框架结合了决策Transformer、Q值引导和逆动力学模块,在数字广告自动出价中平衡探索与安全性,并在公开数据集和模拟拍卖中展示了有效性。

MM-BizRAG:重新思考面向通用企业问答的多模态检索增强生成

arXiv cs.CL

MM-BizRAG 是一个面向企业问答的多模态检索增强生成系统,通过文档结构感知分割和版式感知解析,在异构企业文档上的表现比以视觉为中心的基线方法最高提升 32%。该论文还提出了 FastRAGEval——一种基于 LLM 的高效评估指标,其与人类判断的对齐程度优于 RAGChecker,且成本更低。

HKUDS/RAG-Anything

GitHub Trending (daily)

HKUDS 发布 RAG-Anything:基于 LightRAG 的开源一站式多模态检索增强生成框架。