面向非常规求解器的检索增强问答中的QUBO优化证据选择

# 基于QUBO的检索增强问答证据选择与非常规求解器

来源：https://arxiv.org/html/2607.12334

Rahul Singh  
加州大学圣塔芭芭拉分校  
圣塔芭芭拉，加利福尼亚州  
[email protected]  

& Madhav Vadlamani  
佐治亚理工学院  
亚特兰大，佐治亚州  
[email protected]  

###### 摘要

检索增强型问答依赖于在答案生成之前选择合适的证据段落集。然而，许多检索流程依赖 top-k 排序，其中段落主要根据个体相关性得分进行选择，尽管多跳问题通常需要能共同满足多个信息需求的段落。最近的基于 LLM 的方法通过将检索视为集合选择问题来解决这一限制，但使用 LLM 进行这一中间选择阶段成本高昂且难以扩展。在这项工作中，我们将证据选择表述为一个二次无约束二元优化 (QUBO) 问题。给定一个问题、候选段落和分解后的信息需求，我们的方法构建了一个能量函数，该函数平衡了段落相关性、需求覆盖、支持强度、冗余性、互补性和紧凑性。低能量配置对应能够覆盖必要需求同时避免不必要或重复上下文的证据子集。然后，选定的段落被传递给下游语言模型进行答案生成，从而将组合式的证据选择步骤与语义答案生成步骤分离开来。我们在多跳问答基准 HotpotQA 上评估了所提出的 QUBO 选择器，并将其与基于 LLM 的集合选择器以及非 LLM 基线（包括 BM25、相关性 top-k、最大边际相关性、混合词汇-语义排序、贪婪覆盖和随机选择）进行了比较。相比基于 LLM 的集合选择器，QUBO 选择器在精确匹配和 token-F1 性能上具有竞争力，同时提供了一种适用于结构化证据选择的求解器兼容公式。这些结果表明，多跳证据选择可以被视为一个离散优化问题，从而开辟了一条路径，使得检索流程中 LLM 主要被保留用于答案生成，而选择阶段则由非常规伊辛机、量子退火器、量子启发式优化器或用于 QUBO 求解的门模型量子算法执行。

**基于 QUBO 的证据选择结合非常规求解器用于检索增强问答**

Rahul Singh  
加州大学圣塔芭芭拉分校  
圣塔芭芭拉，加利福尼亚州  
[email protected]  

Madhav Vadlamani††感谢：同等贡献  
佐治亚理工学院  
亚特兰大，佐治亚州  
[email protected]  

## 1 引言

大型语言模型在自然语言理解和生成方面展示了强大的能力，但其响应仍然受到其参数中编码的信息以及推理时提供的上下文质量的限制。检索增强生成通过将参数化语言模型与外部非参数化知识源相结合来解决这一限制，使得生成过程能够基于检索到的证据进行条件设定，而不仅仅依赖于记忆的知识 (Lewis et al., 2020)。这一范式对于需要事实依据、出处溯源、领域适应和访问动态更新信息的知识密集型任务特别有用 (Gao et al., 2024; Barnett et al., 2024)。然而，RAG 性能对所选上下文高度敏感：检索错误、证据缺失、冗余段落和不相关的干扰信息可能会降低生成质量，尤其是在需要跨段落组合互补证据的多跳问答中 (Yang et al., 2018; Yan et al., 2024)。仅仅增加检索段落数量也不够，因为长上下文语言模型可能无法根据相关证据的位置和显著性有效利用它 (Liu et al., 2024)。因此，大多数 RAG 系统遵循“检索-重排序”流程：稀疏、稠密或混合检索器生成候选段落，重排序器对其进行排序，并将 top-k 段落传递给生成器。虽然交叉编码器和基于 LLM 的列表式重排序器提高了排序质量 (Sun et al., 2023; Liu et al., 2025)，但它们通常优化的是段落顺序，而非直接优化最终的证据子集。这种区别之所以重要，是因为集合级别的属性，如需求覆盖、冗余性、互补性和联合答案支持，并不总是被显式优化 (Lee et al., 2025)。多样性感知方法（如最大边际相关性）通过平衡相关性和新颖性部分地解决了冗余问题 (Carbonell and Goldstein, 1998)，但它们并不直接建模查询特定的信息需求，也不在统一的子集选择目标中优化需求级别的覆盖。同时，大规模检索和重排序会引入显著的部署成本、延迟、内存容量和数据移动挑战 (Hsu et al., 2026)。这些观察结果促使人们采用集合选择视角来看待 RAG 上下文构建 (Lee et al., 2025; Jiang et al., 2026)，其目标不仅仅是选择排名最高的单个段落，而是构建一个紧凑的证据子集，该子集能共同满足查询的信息需求。这种集合选择视角也为专门的优化硬件创造了机会。与需要重复进行 Transformer 推理的基于 LLM 的重排序或提示不同，QUBO/伊辛公式将上下文选择决策显式地表达为一个二元能量最小化问题。这些问题可以映射到量子退火器和基于门的量子优化算法，也可以由量子启发式硬件（如数字退火器、相干伊辛机和 CMOS 兼容伊辛机）执行。这些平台旨在利用物理动力学或特定于硬件的优化规则来搜索能量景观中的低能量配置。先前的工作报道了在全连接 QUBO/自旋玻璃实例上数字退火器的与问题相关的加速、在大规模图优化问题上可扩展的相干伊辛机行为，以及 CMOS 兼容伊辛设计的执行时间或能量特性的改善 (Aramon et al., 2019; Haribara et al., 2016; Zhang et al., 2022)。虽然我们不假设存在通用的量子加速，但这种硬件方向对于大规模 RAG 流程很有吸引力，因为候选池和段落间交互可能随语料库规模大幅增长，使得最终的上下文选择步骤成为低延迟和潜在能量高效的 QUBO/伊辛加速的自然目标。在这项工作中，我们将需求感知的段落选择表述为一个二次无约束二元优化问题。QUBO 提供了一个带有线性效用项和二次交互项的二元优化标准框架 (Glover et al., 2022)，非常适合 RAG 上下文构建：每个候选段落由一个二元变量表示，而目标函数则奖励相关性、需求覆盖、支持强度和互补性，并惩罚冗余和不必要的上下文长度。因此，低能量解对应于根据其集体效用而非仅根据其个体相关性得分选择的紧凑证据子集。所提出的公式在检索和答案生成之间添加了一个结构化的优化层。它不取代检索器或生成器；而是将一个显式的集合优化问题替换了中间的上下文选择步骤，该问题作用于已检索的候选池。然后，选定的段落被传递给下游语言模型进行答案生成，从而将组合式证据选择与语义答案合成分离开来。据我们所知，这是第一项将需求感知的 RAG 上下文选择表述为 QUBO 问题的工作，使得选择阶段能够映射到伊辛/QUBO 兼容的求解器，例如模拟退火器、量子退火器、数字退火器、相干伊辛机、CMOS/SRAM 基伊辛机，以及在适当映射后的门模型量子优化算法 (Ceselli and Premoli, 2023; Şeker et al., 2022; Wei et al., 2026; Vadlamani et al., 2026; Perlin et al., 2026; He et al., 2025)。这种求解器兼容的表示方式在候选池和检索语料库增长时尤其重要：专门的 QUBO 和伊辛加速器可以直接针对组合选择步骤，提供了一条比重复调用基于 LLM 的重排序或集合选择更低的延迟和潜在更高能效的上下文选择路径。本文的主要贡献总结如下：

- • 我们将 RAG 上下文构建形式化为一个需求感知的二元子集选择问题，其中选定的证据在集合级别进行优化，而不是通过独立的 top-k 排序获得。
- • 我们推导出一个用于证据选择的 QUBO 目标函数，该函数将段落相关性、需求覆盖、支持强度、冗余减少、互补性、紧凑性和选择预算约束联合编码在一个单一的、求解器兼容的能量函数中。
- • 我们提出了一个模块化的 RAG 流程，将语义预处理、组合式上下文选择和答案生成分开：语义评分定义 QUBO 实例，求解器选择上下文子集，下游语言模型生成最终答案。
- • 我们在多跳问答上使用下游答案生成指标和集合级别证据选择指标评估所提出的方法，将我们的方法与 SetR 风格的 LLM 集合选择器以及非 LLM 基线（包括 BM25、相关性 top-k、最大边际相关性、混合词汇-语义排序、贪婪覆盖和随机选择）进行比较。

## 2 背景

所提出的方法修改了检索增强生成的上下文选择阶段。本节不是重新介绍完整的 RAG 流程，而是总结上下文选择问题，然后介绍二次无约束二元优化，它为所提出的公式提供了数学基础。

### 2.1 RAG 上下文选择

RAG 通过检索到的非参数化证据扩充参数化语言模型，使得答案生成能够基于外部上下文而非仅基于记忆的模型参数进行条件设定 (Lewis et al., 2020)。在一个标准流程中，输入查询用于检索或重排序一个候选段落池，最终上下文通常根据相关性或重排序分数选择 top-K 段落形成。如果 C_q 表示查询 q 的候选池，那么这种选择可以写为：

S_q^{top-K} = arg max_{S ⊆ C_q, |S|=K} ∑_{p_i ∈ S} ρ(q, p_i),   (1)

其中 ρ(q, p_i) 是分配给段落 p_i 的分数。这个加性目标根据段落的个体分数进行选择，但它并不显式优化所选段落之间的交互。这种限制在多跳和需求敏感的问答中很重要，因为答案可能需要结合分布在多个段落中的互补证据 (Yang et al., 2018)。一个具有高个体相关性的段落可能重复另一个段落中已存在的证据，而一个排名适中的段落可能因提供了缺失的桥接事实或完成了证据链而必不可少。因此，最近的工作主张采用集合级别的上下文构建，其中段落的选择依据是它们共同满足查询信息需求的程度，而不仅仅是根据它们独立的相关性分数 (Lee et al., 2025; Jiang et al., 2026)。这促使将 RAG 上下文构建视为一个二元子集选择问题。

### 2.2 二次无约束二元优化

二次无约束二元优化是用于二元变量离散优化的标准公式 (Glover et al., 2022)。给定一个二元向量 x = [x_1, x_2, ..., x_n]^T, x_i ∈ {0, 1},   (2)

一个 QUBO 问题通常写作：

min_{x ∈ {0,1}^n} E(x) = x^T Q x,   (3)

其中 Q ∈ R^{n×n} 是 QUBO 系数矩阵。对角线项 Q_ii 编码线性成本或奖励，因为对于二元变量 x_i^2 = x_i，而对角线外项编码变量之间的成对交互。等价地，使用上三角约定：

E(x) = ∑_{i=1}^n Q_ii x_i + ∑_{1 ≤ i < j ≤ n} Q_ij x_i x_j.   (4)

这种形式将二元选择问题的线性项和成对交互项自然映射到一个矩阵表示中。QUBO 问题可以直接映射到伊辛自旋玻璃哈密顿量，通过变量替换 x_i = (1 + s_i)/2，其中 s_i ∈ {−1, +1}，使得 QUBO 与伊辛公式等价 (Bian et al., 2010)。因此，任何可以用 QUBO 表达的组合选择问题都可以映射到为 QUBO 或伊辛优化设计的求解器上。这些求解器包括模拟退火器 (Kirkpatrick et al., 1983)、量子退火器 (Kadowaki and Nishimori, 1998)、相干伊辛机 (Marandi et al., 2014; Inagaki et al., 2016; McMahon et al., 2016)、数字退火器 (Aramon et al., 2019; Muroi et al., 2021) 以及 CMOS/SRAM 基加速器 (Takemoto et al., 2019; Moy et al., 2022; Yamaoka et al., 2015; Lee et al., 2023)。