InfluMatch:以4B模型成本实现前沿级KOL搜索

arXiv cs.CL 论文

摘要

介绍InfluMatch,一个使用小型开源权重模型的三级级联系统,用于泰语营销中的前沿级KOL搜索,以极低的前沿服务成本实现了94.1%的P@5。

arXiv:2607.05968v1 公告类型:新论文 摘要:将网红(KOL)与自由形式、多部分的泰语营销标准进行匹配,目前要么通过结构化资料的关键词搜索来实现,但这种方式忽略了语义匹配;要么通过对每个候选者进行前沿大语言模型提示,这种方法准确但缓慢且昂贵。我们提出了InfluMatch,一个低成本的三级级联系统——检索$\rightarrow$重新排序$\rightarrow$推理——完全由小型开源权重模型构建:稠密检索返回50个候选者,一个4B点式重新排序器根据单个Yes token的对数概率对每个候选者进行评分并保留10个,一个4B推理器根据标准清单对候选列表按标准进行评分,并附带泰语说明。该级联设计注重成本:对筛选后的前10名进行推理,其token消耗仅为对所有50名进行推理的一半,同时评分提高14个百分点。在一个包含11个查询、所有50个候选者均标注了人工相关性标签的数据集上进行端到端评估,完整级联达到了94.1%的P@5,而仅检索的基线接近随机;它达到了前沿模型Kimi-K2.6(91.8%)的水平,同时输出的token数量减少了${\sim}35\times$,并在单块A100上处理一个50-KOL查询只需${\sim}20$秒。值得注意的是,唯一有效的微调是成对微调:使用SimPO微调的重新排序器达到了前沿基线的最佳选择准确率(78.0 EM),而根据逐点逐标准标签微调推理器虽然提高了离线分数,但降低了端到端排名——我们将这种反转归因于绝对标签任务的设计——使得未经微调的基础模型成为了最强的部署推理器。最终结果是一个可部署、可解释的KOL搜索系统,其成本仅为前沿服务成本的一小部分。
查看原文
查看缓存全文

缓存时间: 2026/07/08 04:42

# InfluMatch:以4B模型成本实现前沿级KOL搜索
来源:https://arxiv.org/html/2607.05968
Petmongkon Pornpichitsuwan Natchaya Temyingyong Nutnicha Laplamoon Wachiravit Modecrua Krittin Pachtrachai Touchapon Kraisingkorn

###### 摘要

在泰国市场中,将影响者(KOL)匹配到自由格式、多部分的营销标准,目前要么是通过对结构化档案进行关键词搜索(这忽略了语义匹配),要么是对每个候选者使用前沿大语言模型进行提示(虽然准确但速度慢且成本高)。我们提出InfluMatch,一个低成本的三阶段级联架构——检索→重排→推理——完全由小型开源模型构建:密集检索返回50个候选者,一个4B点式重排器根据单个"是"令牌的对数概率对每个候选者进行评分并保留10个,一个4B推理器根据带有泰国语理由的评分标准对候选名单进行逐项评分。该级联架构专为控制成本而设计:对过滤后的前10名进行推理,与对所有50名进行推理相比,令牌消耗减半,同时得分高出14个点。在包含11个查询(所有50个候选者都已标注)的人类相关性标签上进行端到端评估,完整级联的P@5达到94.1%,而仅检索的基线接近随机水平;它媲美前沿模型Kimi-K2.6(91.8%),同时输出令牌数量减少约35倍,并在单个A100上处理一个50-KOL查询耗时约20秒。值得注意的是,唯一有效的微调是对比性微调:经过SimPO调优的重排器在前沿基线的最佳选择准确率(78.0 EM)上表现一致;而对推理器进行基于点式逐项标准标签的微调,虽然提升了离线分数,却降低了端到端排名——我们将这种反转归因于绝对标注任务的设计——这使得未调优的基础模型成为部署中最强的推理器。结果是一个可部署、可解释的KOL搜索系统,其服务成本仅为前沿模型的一小部分。

## 1 引言

网红营销占据了品牌预算的很大一部分,其核心运营问题是**匹配**:给定一个活动,找到其受众、内容和风格符合简报的关键意见领袖(KOL)。在泰国市场,营销人员的意图自然表现为自由格式、多部分的标准——例如“一位女性美食评论家,风格俏皮,受众偏年轻”——而供应侧则是一个长尾创作者群体,他们的相关性必须从异构且主要是泰语的信号(简介、视频转录、受众资料)中推断出来,而不是从一个整洁的属性表中直接读取。

#### 为什么关键词和结构化搜索不够用。

现有方法将匹配视为对抓取的KOL数据库进行关键字和硬属性筛选的查找。这存在三个问题:它是**词汇层面而非语义层面**的(针对“俏皮美食评论家”的查询会遗漏那些简介中从未提及但内容显然符合的KOL);信号**分散**在个人资料字段、转录和互动指标中,因此一个查询可以在每个字段上分别满足条件,但整体匹配效果不佳;并且决定性标准是**动态的**、特定于活动的谓词,静态模式无法预测。我们的评估证实了纯召回率的局限性:在端到端精度上,密集检索仅能勉强与随机基线区分开(P@5分别为54.5% vs. 54.0%,详见§6.3 (https://arxiv.org/html/2607.05968#S6.SS3))。

#### 方法。

我们提出InfluMatch,一个三阶段流水线——**检索**→**重排**→**推理**——将营销人员的标准转换为带有逐项评分和泰语说明的KOL候选名单。阶段1从向量索引中检索前50名候选集;阶段2应用一个点式4B大语言模型重排器,保留前10名;阶段3对每个候选名单上的KOL按标准评分,并通过等权求和合并分数。为了监督学习阶段,我们构建了一个基于证据、多目标的人工标注语料库,涵盖合成但逼真的泰国简报——包含点式序数分数、二元通过/失败判断以及成对的最佳/最差判断——并微调两个4B开源学生模型:一个成对SimPO重排器和一个点式SFT+GRPO推理评分器。只有成对学生模型在端到端评估中幸存下来(§7 (https://arxiv.org/html/2607.05968#S7));部署的推理器是未调优的基础模型。

### 1.1 贡献

- • **一个可部署的三阶段KOL匹配流水线**,适用于自由格式的泰国标准,返回带有逐项评分和泰语说明的排名候选名单。端到端评估中,完整级联将P@5从约54.5%(仅检索)提升至94.1%(基于11个查询池,所有50个候选者均已标注),同时输出令牌数量比前沿模型减少约35倍。
- • **一个合成简报生成流水线和一个多目标、基于证据的标注语料库**,包含针对逼真泰国简报的点式序数分数、二元通过/失败判断以及成对最佳/最差判断。
- • **一个成对SimPO重排器(4B)**,在前沿基线的最佳选择准确率(78.0 EM)上表现一致,并向下游传递提升,将端到端P@5提升至超过未调优重排器的水平。
- • **对离线-端到端反转的分析**:点式SFT+GRPO微调推理评分器在逐项标准指标上获胜,但在端到端评估中输给了其未调优的基础模型;证据审计将差距追溯到绝对标注任务的设计,表明可恢复的监督信号存在于相对判断中。

## 2 背景与相关工作

#### 网红-品牌匹配。

工业界KOL发现主要由数据库平台主导,这些平台通过关键词和硬属性筛选抓取的用户资料,并呈现候选者供人工审核。学术研究将该问题形式化为基于结构化特征的双边匹配或推荐,而营销科学工作则对人工智能辅助匹配的市场层面后果进行建模。这两种思路都预设活动意图已经编码在固定的属性模式中;两者都没有解决自由格式、多部分的简报(其决定性谓词是特定于活动的),也没有产生营销人员可以审计的、基于证据的逐项理由。我们则将匹配视为基于标准条件的检索和评分,处理异构且主要是泰语的创作者证据。

#### 用于排序检索的多阶段级联架构。

通过逐渐增加每个候选者成本的阶段来筛选检索结果,是一种经典的效能-效率设计方法,并且仍然是神经信息检索的主导形态:一个高效的密集或词汇第一级[4 (https://arxiv.org/html/2607.05968#bib.bib19)] 提供一个更强的交叉编码器重排器[9 (https://arxiv.org/html/2607.05968#bib.bib13)],可选地随后是一个成对最终阶段[11 (https://arxiv.org/html/2607.05968#bib.bib14)];多语言嵌入将密集第一级扩展到泰语。InfluMatch 实例化了这种级联架构,并明确了每阶段的令牌和延迟预算,但在最后一个阶段有所不同:推理阶段并非仅输出一个排列,而是根据带有泰语说明的评分标准对每个标准进行评分,因此输出是一个可审计的决策,而不是一个不透明的排序。

#### 作为重排器的大语言模型。

提示式大语言模型重排器涵盖点式、成对[16 (https://arxiv.org/html/2607.05968#bib.bib18)]和列表式家族。点式相关性生成通过相关性令牌的似然性对候选者进行评分[10 (https://arxiv.org/html/2607.05968#bib.bib12)];列表式提示,例如 RankGPT[20 (https://arxiv.org/html/2607.05968#bib.bib15)],实现了最强基准质量,但代价是较长的提示、滑动窗口传递和延迟。并行工作训练开源学生模型,通常是7B列表式重排器,基于专有教师排序[14 (https://arxiv.org/html/2607.05968#bib.bib16),15 (https://arxiv.org/html/2607.05968#bib.bib17)]。我们的重排器刻意位于此空间的低成本端:点式单令牌评分是令人尴尬地可并行化的,每个候选者仅输出O(1)个输出令牌,适应列表式滑动窗口无法满足的生产延迟预算。与之前使用绝对相关性标签进行交叉熵训练的点式学生模型不同,我们使用 SimPO 在**人工成对偏好**上训练4B学生模型,§7 (https://arxiv.org/html/2607.05968#S7) 表明这是端到端评估中至关重要的区别。

#### 作为裁判的大语言模型与基于评分标准的评分。

我们的推理阶段更接近“大语言模型作为裁判”,而非重排:它对(标准,KOL)对按照评分标准进行评分,并且必须给出评分理由。使用强大的专有大语言模型进行裁判是标准做法[23 (https://arxiv.org/html/2607.05968#bib.bib21)],而开源评估器如 Prometheus[5 (https://arxiv.org/html/2607.05968#bib.bib20)] 表明,遵循评分标准的判断可以蒸馏到中等规模的开源模型中。该文献也记录了绝对评分相对于比较判断的偏差和校准问题[21 (https://arxiv.org/html/2607.05968#bib.bib22)];我们的部署增加了相同方向的端到端证据,未调优的基础模型仍然是最强的部署裁判(§7 (https://arxiv.org/html/2607.05968#S7))。

#### 后训练与监督信号的选择。

离线偏好优化直接在比较上对齐策略[18 (https://arxiv.org/html/2607.05968#bib.bib4)]——特别是 SimPO,一种无参考方法,其隐式奖励是长度归一化的序列对数概率[7 (https://arxiv.org/html/2607.05968#bib.bib1)]——而群体相对策略优化(GRPO)无需评论家即可针对可验证奖励进行优化[19 (https://arxiv.org/html/2607.05968#bib.bib2)]。与算法正交的是收集哪种**标签几何结构**:在同等标注预算下,相对判断(最佳-最差标度)明显比评分量表更可靠[6 (https://arxiv.org/html/2607.05968#bib.bib9)],并且基于人类反馈的强化学习流水线部分由于这个原因而标准化为成对比较;离线收益在部署中未能幸存本身是一个在推荐系统评估中已记录的模式[2 (https://arxiv.org/html/2607.05968#bib.bib10)]。我们的离线-端到端反转与这一文献在部署规模上是一致的:来自同一语料库,成对 SimPO 学生模型向下游传递,而点式 SFT+GRPO 学生模型则没有。

## 3 方法

### 3.1 问题形式化

给定营销人员简报扩展为一系列匹配标准C={c1,...,cm},以及一个由KOL组成的候选池K={k1,...,kN},每个KOL由异构的泰语信号表示,任务是产生一个在K上的排序候选名单π,使得满足C的KOL排名最高,同时为每个候选名单上的KOL提供逐项评分和泰语理由。

### 3.2 级联架构概述

InfluMatch 将匹配分解为三个阶段,每个候选者的成本递增,因此昂贵的推理阶段仅在过滤后的候选名单上运行(图1 (https://arxiv.org/html/2607.05968#S3.F1),表1 (https://arxiv.org/html/2607.05968#S3.T1))。

参见图注图1:三阶段 InfluMatch 流水线:检索→重排→推理。每个阶段在最终逐项评分之前缩小候选集。表1:三个流水线阶段。“输出”是每个阶段发出的候选者数量。#### 阶段1:检索。

每个标准被嵌入为独立的查询向量,并在合并的KOL向量表中进行搜索。一个KOL与一个标准的相似度是其**最佳匹配**向量——即该KOL所有合并向量中的最小余弦距离——并且每个标准的相似度求和作为该KOL的单一检索分数。KOL按此分数排序,应用可选的硬层级过滤器,保留前50名候选者,并提取其个人资料和热门视频供下游阶段使用。此密集检索阶段旨在优化**召回率**——确保不丢失相关KOL——而不是最终排序;排序工作由下游的重排和推理阶段完成。

#### 阶段2:重排。

一个4B点式重排器通过单次前向传递对每个候选者进行评分:模型接收标准以及候选者的个人资料详情和视频摘要,相关性分数是单个“是”令牌的对数概率。前10名候选者晋级。每个候选者输出一个评分令牌使该阶段的输出成本保持在每个查询约0.1k令牌。

#### 阶段3:推理。

一个4B推理评分器根据{0,1,2}序数评分标准对每个候选名单上的KOL针对每个标准ci进行评分,并生成泰语理由。最终排名分数是等权和s(k)=∑i=1msi(k)。部署的评分器是未调优的基础模型(§7 (https://arxiv.org/html/2607.05968#S7));下面的微调变体是实验分支,我们分析其端到端行为。

### 3.3 监督信号

我们基于合成但逼真的泰国简报(§4 (https://arxiv.org/html/2607.05968#S4))在(标准,KOL)单元上收集三种标签类型:(i)**点式**逐项序数分数,范围{0,1,2};(ii)KOL级别的**二元**通过/失败判断;以及(iii)对候选组的**成对**最佳/最差判断。重排器从相对判断中学习,推理评分器从绝对判断中学习。

### 3.4 重排器训练:成对 SimPO

我们使用 SimPO[7 (https://arxiv.org/html/2607.05968#bib.bib1)] 在偏好对(kw,kl)上微调重排器(作为 LoRA 适配器[3 (https://arxiv.org/html/2607.05968#bib.bib3)]),其中 kw 和 kl 分别是同一标准下的偏好和厌恶候选者。由于评分的响应是单个令牌,SimPO 的长度归一化奖励简化为“是”的对数概率本身,目标函数变为分数差上的边际增强逻辑损失:

L = -log σ(β (sw - sl) - γ), s = log p(是 | C, k), (1) 其中 p(是 | C, k) 是重排器在给定标准 C 和候选者 k 时输出“是”令牌的概率——因此 sw 和 sl 分别是偏好候选者 kw 和厌恶候选者 kl 的分数——σ 是逻辑 Sigmoid 函数,β 是逆温度,γ 是固定目标边界。这是无参考的,直接塑造了推理时使用的量,因此训练和服务优化的是同一个分数。

#### SFT-裁判基线。

作为微调对照,我们还通过监督微调在相同的成对标签上训练一个**直接**的 A-vs-B 裁判(SFT-裁判):模型接收标准和两个候选者,并被训练输出偏好候选者的令牌(A 或 B)。因此,SFT-裁判和 SimPO 共享训练数据,仅在目标和推理路径上有所区别——生成式 A-vs-B 判断与点式 log p(是) 评分——从而隔离了偏好目标的贡献(§6.1 (https://arxiv.org/html/2607.05968#S6.SS1))。

### 3.5 推理评分器训练:点式 SFT+GRPO

为了测试绝对逐项监督是否能迁移到端到端排序,我们基于人工点式标签对推理评分器进行两个阶段的微调;标签仅包含序数分数,没有参考理由。**SFT** 使模型适应逐项评分格式。**GRPO**[19 (https://arxiv.org/html/2607.05968#bib.bib2)] 随后根据人工标签进行优化,采用单一门控分数奖励:一个完成只有在通过联合门控——有效的序数分数和非空理由——时才获得非零奖励,并且门控完成的奖励根据与人工标签的序数距离支付:完全匹配得1.0分

相似文章