SkillSight: 透过共享描述实现准确技能检索

# SkillSight：透过共享描述精准检索技能
来源：https://arxiv.org/html/2607.18785
肖金颖¹，纪斌¹，李莎莎¹，刘晓东¹，马俊¹，解佳成¹，王超²，尼玛扎西³，余杰¹

###### 摘要

随着大语言模型智能体能够访问的技能库规模日益庞大，检索到正确的技能对于可靠地选择和执行能力变得至关重要。现有的检索器通常将技能描述视为普通文档，忽略了其高度规律的结构：共享的描述模式在许多技能中反复出现，但对区分所需能力提供的证据却很少。我们表明，这种共享的描述背景会系统性地提升稠密相关性分数，在查询与技能文档之间产生显著的能量差距，并掩盖任务相关的信号。基于这一观察，我们提出SkillSight，一种无需训练的检索框架，在语义和词汇两个空间中对共享背景进行校准。语义背景校准（SBC）通过IDF识别通用标记，从中估计背景子空间，从而降低由共享描述模式引起的相似性；而词汇证据校准（LEC）则降低共享背景标记的权重，以恢复具有区分性的标记级证据。在SRA-Bench和SkillBench-Supp上的实验表明，SkillSight在各项检索指标上均有持续改进，其中Recall@10相比原始稠密检索器提升了高达20.21个百分点。在端到端评估中，SkillSight在三个智能体模型上均取得了最佳整体性能，且相比LLM Selection提升了高达4.97个百分点。同时，其速度比Dense + Reranker基线快高达1248倍。这些结果将共享描述背景识别为技能检索中偏差的关键来源，并证明显式校准该背景能够在无需额外训练的情况下实现准确且高效的技能选择。我们的代码已开源在 https://github.com/xiaojinying/SkillSight。

## 引言

随着大语言模型智能体能够访问的技能数量不断增加（薛等人，2026 (https://arxiv.org/html/2607.18785#bib.bib3)；丁等人，2026 (https://arxiv.org/html/2607.18785#bib.bib2)），从庞大的技能库中准确识别给定任务所需的能力成为智能体系统中一个关键的检索问题。一个技能文档通常规定了能力范围、调用接口、执行条件和使用说明（袁等人，2025 (https://arxiv.org/html/2607.18785#bib.bib11)）。将所有文档直接提供给大语言模型会带来显著的上下文开销，并增加选择或调用无关能力的风险（秦等人，2024 (https://arxiv.org/html/2607.18785#bib.bib1)）。技能检索通过返回一个紧凑的相关候选集来解决这个问题。然后智能体选择并执行合适的技能。因此，检索质量直接影响智能体有效使用外部能力的能力。

现有研究通过查询重写、专用检索器、候选重排序和工具关系建模来改进技能检索（陈等人，2024b (https://arxiv.org/html/2607.18785#bib.bib36)；郑等人，2024 (https://arxiv.org/html/2607.18785#bib.bib37)；秦等人，2024 (https://arxiv.org/html/2607.18785#bib.bib1)；瞿等人，2024 (https://arxiv.org/html/2607.18785#bib.bib34)），主要解决查询-技能语义不匹配或使用更强模型重新评估候选相关性。然而，技能检索表现出独特的输入不对称性：查询表达了实例特定的目标、对象和约束，而可重用的技能文档则遵循规律性的描述结构，并广泛共享有关能力说明、调用条件、执行程序等内容（梁等人，2026 (https://arxiv.org/html/2607.18785#bib.bib32)）。这种结构规律性会在稠密检索中引起文档侧的背景偏差，因为查询-文档相似度将任务相关的证据与语料库共享的描述性内容聚合在一起。因此，一个强负例可能因为匹配了通用接口或使用说明而获得高分，尽管它与所需操作、目标或约束不匹配。现有的表示修正方法移除了常见的嵌入方向（Mu 和 Viswanath，2018 (https://arxiv.org/html/2607.18785#bib.bib8)；周等人，2024 (https://arxiv.org/html/2607.18785#bib.bib6)），而词汇增强和基于交互的重排序则引入了互补的匹配信号（Bruch等人，2023 (https://arxiv.org/html/2607.18785#bib.bib18)；庄等人，2024 (https://arxiv.org/html/2607.18785#bib.bib19)）；然而，这些方法都没有明确将共享的技能描述识别为排名偏差的语义来源，也没有量化其对相关性分数的贡献。

我们从三个角度分析这个问题：排序行为、标记统计和表示几何。首先，与传统的文本检索数据集（Thakur等人，2021 (https://arxiv.org/html/2607.18785#bib.bib14)）相比，技能检索数据集需要更大的检索深度才能达到相同的黄金技能覆盖率，并且更大比例的候选文档排在黄金技能之前。其次，在技能文档中频繁出现的通用标记的黄金技能率集中在接近零的值，表明这些标记在技能之间提供的区分度有限。我们进一步使用通用标记来估计技能语料库的背景子空间，并观察到该子空间中技能文档始终比查询具有更高的背景能量。这种查询-文档能量差距在传统的文本检索数据集中并不明显。对稠密分数的正交分解进一步表明，背景对齐为某些候选者贡献了额外的分数，从而降低了任务特定证据对排序的影响。

基于这些发现，我们提出了SkillSight，一种无需训练的技能检索相关性校准框架。语义背景校准（SBC）从通用标记中估计语料库级别的背景子空间，并消除其对稠密相似性的贡献；而词汇证据校准（LEC）则降低语料库通用词的权重，以强调细粒度的能力匹配证据。校准后的语义和词汇分数在局部候选集内融合，无需额外训练或模型推理。

在SRA-Bench和SkillBench-Supp上的实验表明，SkillSight将Recall@10相比原始稠密检索器提升了高达20.21个百分点。它还在三个智能体模型上取得了最佳非预言式端到端性能，比LLM Selection高出最多4.97个百分点，同时速度比神经重排序快高达1248倍。

我们的贡献如下：

- •我们识别并系统分析了技能检索中的文档侧背景偏差。通过通用标记统计、背景能量分析和稠密分数分解，我们揭示了共享描述结构如何影响相关性排序。
- •我们提出了SkillSight，它通过语义背景校准抑制共享背景对稠密相关性分数的贡献，并通过词汇证据校准恢复细粒度的能力匹配证据。所提出的框架既不需要额外训练，也不需要模型推理。
- •我们在两个技能检索基准和三个智能体模型上进行了全面评估。结果证明了SkillSight在离线检索、端到端任务性能和推理效率方面的优势，而消融研究则证实SBC和LEC提供了有效且互补的相关性信号。

## 相关工作

### 智能体工具与技能检索

随着工具库的增长，将所有描述暴露给LLM会带来显著的上下文开销并增加选择错误。ToolLLM引入了专用的API检索器（秦等人，2024 (https://arxiv.org/html/2607.18785#bib.bib1)），后续工作通过查询重写、重排序和工具关系建模进一步改进检索（陈等人，2024b (https://arxiv.org/html/2607.18785#bib.bib36)；郑等人，2024 (https://arxiv.org/html/2607.18785#bib.bib37)；瞿等人，2024 (https://arxiv.org/html/2607.18785#bib.bib34)）。最近的研究将这一方向扩展到技能检索和智能体执行（施等人，2025 (https://arxiv.org/html/2607.18785#bib.bib29)；李等人，2026 (https://arxiv.org/html/2607.18785#bib.bib33)；苏等人，2026 (https://arxiv.org/html/2607.18785#bib.bib28)）。SkillRouter（郑等人，2026 (https://arxiv.org/html/2607.18785#bib.bib23)）和SkillRet（Cho等人，2026 (https://arxiv.org/html/2607.18785#bib.bib7)）都训练了专门的两阶段嵌入和重排序流水线。

GoS（刘等人，2026 (https://arxiv.org/html/2607.18785#bib.bib31)）和GoSkills（曾等人，2026 (https://arxiv.org/html/2607.18785#bib.bib30)）首先使用LLM和编码器辅助的关系归纳，将扁平技能库转换为结构化图，从中检索依赖感知的捆绑包或角色标记组。这改变了检索语料库并引入了额外的图构建成本，使其无法与我们直接从原始库中排序单个技能（无需图预处理）的设置直接比较。

### 检索表示与相关性校准

稠密检索依赖于查询和文档表示之间的整体语义相似性（Karpukhin等人，2020 (https://arxiv.org/html/2607.18785#bib.bib12)），但可能不够重视细粒度的证据，如操作、实体和约束。现有的混合检索方法通过结合稠密和词汇信号来解决这一限制（庄等人，2024 (https://arxiv.org/html/2607.18785#bib.bib19)；Bruch等人，2023 (https://arxiv.org/html/2607.18785#bib.bib18)）。另一类工作通过从表示中移除常见方向或改善嵌入空间的几何形状来降低非区分性组件对相似性估计的影响（Arora等人，2017 (https://arxiv.org/html/2607.18785#bib.bib17)；Mu 和 Viswanath，2018 (https://arxiv.org/html/2607.18785#bib.bib8)；周等人，2024 (https://arxiv.org/html/2607.18785#bib.bib6)）。这些方法通常从全局表示分布中识别常见组件，而没有明确表征其特定于任务的语义起源。

## 分析

### 共享描述背景

稠密检索器使用查询和文档嵌入之间的内积作为相关性分数：

s\(q,d\)=q⊤d。s\(q,d\)=\mathbf{q}^\top\mathbf{d}. (1)该分数聚合了嵌入空间中所有的对齐信号。在技能检索中，这些信号大致可分为两类。第一类捕获查询所需的特定任务证据，而第二类则反映跨技能文档共享的解释性背景。前者决定了一个技能是否真正满足当前请求，而后者主要表明文档是否遵循典型的技能描述模式。

参考图注图1：使用 Qwen3-Embedding-0.6B 和余弦相似度，SRA-Bench 与普通文本基准上的检索排序行为。(a) 黄金召回率随 Top-k 检索深度（对数尺度）的变化，其中黄金召回率是最好黄金文档出现在前 k 个结果中的查询比例。(b) 排在最好黄金文档之前的语料库文档的平均百分比，计算为 mean((rank−1)/corpussize)×100((rank-1)/corpus\ size)\times 100。这种信号混合影响了硬负例的排序。图1 (https://arxiv.org/html/2607.18785#Sx3.F1) 显示，SRA-Bench 上黄金技能的召回曲线始终落后于传统文本检索（Thakur等人，2021 (https://arxiv.org/html/2607.18785#bib.bib14)），并且有更大比例的候选文档排在黄金文档之前。这一结果表明，稠密分数不仅反映了任务所需的能力，还反映了系统性的文档侧背景相似性。具体来说，一个硬负例可能在写作风格、接口描述和语义结构上与黄金技能相似，从而获得较高的稠密分数，尽管它在关键操作、目标实体或领域条件上与查询不匹配。这种背景对齐削弱了细粒度能力匹配信号对排序的贡献，并在技能检索中引入了系统性偏差。

这一观察促使我们首先识别技能语料库中的共享背景结构，然后检查它如何贡献于稠密分数。一个理想的相关性分数应该保留技能文档的语义内容，同时限制背景信号的过度贡献，从而使最终的排序更依赖于查询特定证据。

参考图注图2：SRA-Bench 和 SkillBench-Supp 上不同标记组的黄金技能率分布。横轴表示包含给定标记的技能中作为黄金技能的比例，纵轴以对数尺度显示对应的标记数量。

### 查询-文档背景能量差距

我们通过标记的共性来刻画技能语料库的共享背景。设 D={di}i=1N\mathcal{D}=\{d_i\}_{i=1}^N 为归一化嵌入 {di}i=1N\{\mathbf{d}_i\}_{i=1}^N 的技能文档。对于每个语料库标记 tt，我们定义

idf(t)=logN+1df(t)+1+1,\operatorname{idf}(t)=\log\frac{N+1}{\operatorname{df}(t)+1}+1, (2)其中 df(t)\operatorname{df}(t) 是包含 tt 的文档数量。我们对 IDF 分布应用大津法（Otsu，1979 (https://arxiv.org/html/2607.18785#bib.bib13)），并将得到的低 IDF 标记集记为 Tg\mathcal{T}_g。图2 (https://arxiv.org/html/2607.18785#Sx3.F2) 显示，这些通用标记的黄金技能率集中在接近零的值，而其他标记则在较高比率区域保留了更大的质量。这表明，语料库中频繁出现的标记主要编码了共享描述，并且在技能之间提供的区分度有限。

我们将这种标记级别的共性映射到嵌入空间。对于每个 t∈Tgt \in \mathcal{T}_g，令 It={i∣t∈di}\mathcal{I}_t = \{i \mid t \in d_i\} 并计算其关联的平均文档嵌入：

gt=1|It|∑i∈Itdi.\mathbf{g}_t = \frac{1}{|\mathcal{I}_t|} \sum_{i \in \mathcal{I}_t} \mathbf{d}_i. (3)我们收集这些由标记诱导的方向，连同语料库均值 d‾=1N∑i=1Ndi\bar{\mathbf{d}} = \frac{1}{N} \sum_{i=1}^N \mathbf{d}_i，并进行奇异值分解：

G=[gt1,...,gtm,d‾]=UΣV⊤,B=[u1,...,ur],G = \left[ \mathbf{g}_{t_1}, ..., \mathbf{g}_{t_m}, \bar{\mathbf{d}} \right] = U \Sigma V^\top, \quad B = [\mathbf{u}_1, ..., \mathbf{u}_r], (4)其中 {t1,...,tm}⊆Tg\{t_1, ..., t_m\} \subseteq \mathcal{T}_g，rr 表示背景子空间的选定秩。标准正交基 BB 张成一个低维子空间，总结了技能文档之间共享的背景方向。

对于任何归一化嵌入 v\mathbf{v}，我们将其背景能量定义为

eB(v)=‖B⊤v‖22.e_B(\mathbf{v}) = \| B^\top \mathbf{v} \|_2^2. (5)给定归一化的查询嵌入 {qj}j=1M\{\mathbf{q}_j\}_{j=1}^M，其背景能量的分布与文档侧背景能量的分布进行比较。