面向LinkedIn大规模职位理解的统一语义建模框架

# LinkedIn 大规模招聘信息理解的统一语义建模框架

**来源:** https://arxiv.org/html/2607.24783

Baofen Zheng¹, Jianqiang Shen¹, Qi Xiao¹, Benjamin Hoan Le¹, Wen Pu¹, Saurabh Gupta¹, Ran Zhou¹, Neha Saraf¹, Alice Leung¹, Qianqi Shen¹, Liangjie Hong¹, Jingwei Wu¹, Wenjing Zhang¹

¹ LinkedIn Corporation, Mountain View, CA, USA

(2026)

###### 摘要

招聘信息理解对于 LinkedIn 连接人才与机遇的使命至关重要。该任务涉及将非结构化和有噪声的招聘帖子转换为标准化或衍生出的岗位属性，这些属性驱动着众多 LinkedIn 产品。然而，构建一个可扩展、高性价比且高性能的招聘信息理解系统仍然充满挑战。在本文中，我们提出了一个由小语言模型 (SLM) 驱动的统一语义建模框架来应对这些挑战。我们首先利用一套精心策划的、包含推理轨迹的合成任务，对开源 SLM 进行微调。这些任务共同针对基于分类法的分类和与分类法无关的实体提取。这使得最终模型能够在结构化和非结构化的招聘信息理解环境中获得强大的零样本泛化能力。在此基础之上，我们引入了一种结合属性分组的多适配器架构，以便于高效的任务特定适应，同时简化跨多样下游属性的模型管理。离线评估和在线 A/B 测试表明，在降低操作复杂度的同时，性能显著提升。我们的工作为构建工业级文本理解系统提供了实践见解。

**关键词：** 实体提取，自然语言理解，岗位匹配，小语言模型

††期刊年份：2026
††版权：cc
††会议：第49届ACM SIGIR信息检索研究与发展国际会议论文集；2026年7月20-24日；澳大利亚墨尔本
††书名：第49届ACM SIGIR信息检索研究与发展国际会议论文集 (SIGIR '26)，2026年7月20-24日，澳大利亚墨尔本
††doi: 10.1145/3805712.3808402
††isbn: 979-8-4007-2599-9/2026/07
††ccs: 信息系统 检索模型与排名
††ccs: 信息系统 专业信息检索
††ccs: 计算方法 信息提取

**表 1. LinkedIn 重要岗位属性示例。**  
注意：职业定义为包含职位 (如，工程师) 和专业领域 (如，软件) 的职称。工作场所类型指远程、混合和现场等工作安排。雇佣类型包括全职、兼职和合同工等类别。

## 1. 引言

招聘帖子是 LinkedIn 最关键的资产之一，是 LinkedIn 人才市场产品的基石。招聘信息理解，即将非结构化、有噪声的招聘帖子文本转换为标准化或衍生的岗位属性，是 LinkedIn 的一项基础工作，并已为广泛的应用提供支持。例如，许多标准化属性会显示在招聘详情页面上，供求职者快速评估机会。在 LinkedIn 的职位搜索和职位推荐系统中，尽管基于嵌入的方法取得了进步，标准化岗位属性仍然发挥着至关重要的作用。像公司、地点、职业、资历和工作场所类型等属性，被视为事实或重要要求，被用作关键的职位过滤器，确保职位匹配既高度精确又个性化。

鉴于招聘信息理解的重要性，构建和生产化高效且可扩展的机器学习 (ML) 模型至关重要。然而，创建这样的生态系统面临着重大挑战。招聘帖子通常包含冗长、异构的文本，并带有噪声或非结构化成分。这种多变性和复杂性使得准确的招聘信息理解变得异常困难。此外，岗位属性空间高度多样化：除了像职称和技能这样的通用属性，LinkedIn 还致力于支持不断扩大的专业领域（例如，护士、律师、教师），每个领域都有其特定的域内属性。例如，护士岗位属性包括专业、班次和执照。表 1 (https://arxiv.org/html/2607.24783#tab:taxonomy) 根据不同的分类体系列出了 LinkedIn 上重要岗位属性的示例。开发能够大规模准确分类如此多样且快速演变的属性空间的模型并非易事。

LinkedIn 长期依赖 ML 模型进行招聘信息理解 (Li et al., 2020 (https://arxiv.org/html/2607.24783#bib.bib7))，通常为每个属性部署一个独立的模型。这些模型通常需要繁重的特征工程——例如文本相似度信号，以及后来的基于嵌入的特征——以及为每个模型提供服务的独立数据管道。结果是，添加一个新属性需要大量的努力，并导致高昂的维护开销。此外，尽管反复迭代，传统模型往往难以捕捉职位描述的语义丰富性，导致性能欠佳。总的来说，有限的可扩展性、高维护成本和较弱的语义建模能力，使得传统方法无法满足不断发展的产品需求。

大型语言模型 (LLMs) (OpenAI, 2022 (https://arxiv.org/html/2607.24783#bib.bib2); Brown and others, 2020 (https://arxiv.org/html/2607.24783#bib.bib1); OpenAI, 2023 (https://arxiv.org/html/2607.24783#bib.bib3)) 已在广泛的基于文本的应用中获得了显著的 popularity，包括文本理解和分类 (Sun and others, 2023 (https://arxiv.org/html/2607.24783#bib.bib4); Vajjala and Shimangaud, 2025 (https://arxiv.org/html/2607.24783#bib.bib5); Kostinaet al., 2025 (https://arxiv.org/html/2607.24783#bib.bib6))。我们的目标是利用 LLM 为招聘信息理解任务构建一种高效的语义建模方法，其前提是它们强大的文本理解能力与招聘信息理解的需求高度契合。此外，LLM 提示工程提供了一种实用的替代方案，可以替代早期方法中传统所需的复杂特征工程。

然而，将 LLM 应用于招聘信息理解任务会带来上述之外的额外挑战。首先，由于高昂的成本和延迟，依赖像 GPT-4 (OpenAI, 2023 (https://arxiv.org/html/2607.24783#bib.bib3)) 这样的商业 LLM 是不切实际的。大型开源 LLM 也面临类似的限制，因为内部服务它们会产生大量的延迟和基础设施成本。为了解决这些限制，我们针对招聘信息理解任务选用较小尺寸的 LLM (SLM)。然而，SLM 在特定领域任务上通常表现欠佳；在我们的案例中，这表现为精度和召回率的下降。此外，大规模支持大量异构岗位属性仍然是一个显著的建模挑战。

我们通过开发一个由 SLM 微调驱动的统一语义建模框架来应对上述挑战，用于大规模招聘信息理解。具体来说，我们做出了以下贡献：

- 我们引入了一种高效的方法，无需大量人工标注即可微调开源 SLM 以构建招聘信息理解基础模型。该方法依赖于精心构建的、由 GPT-4 生成的合成任务，并附带推理轨迹¹，使模型能够获得广泛的招聘语义能力。由此产生的基础模型表现出出色的零样本学习性能，使得对单个任务的微调成为可选或更容易的。
- 为了进一步提升特定属性的性能并确保稳健的属性级准确性，我们提出了一种基于 LoRA 的 (Hu et al., 2021 (https://arxiv.org/html/2607.24783#bib.bib31)) 多适配器架构，结合语义感知的属性分组策略，在性能保障和维护成本之间取得了有利的平衡。
- 我们通过一个高效的单一管道近线服务基础设施，将 SLM 基础模型与适配器一起生产化，该基础设施已以最小的接入工作量支持了 15 个关键岗位属性。我们的在线 A/B 测试表明，新的招聘信息理解模型在核心产品指标上表现出卓越的性能。

本文的其余部分组织如下。第 2 节 (https://arxiv.org/html/2607.24783#S2) 回顾相关工作。第 3 节 (https://arxiv.org/html/2607.24783#S3) 介绍所提出的语义建模框架。第 4 节 (https://arxiv.org/html/2607.24783#S4) 介绍离线与在线实验结果。最后，第 5 节 (https://arxiv.org/html/2607.24783#S5) 总结全文。

## 2. 相关工作

用于岗位属性标准化或提取的机器学习方法已在 (Li et al., 2020 (https://arxiv.org/html/2607.24783#bib.bib7); Javedet al., 2015 (https://arxiv.org/html/2607.24783#bib.bib9); Decorteet al., 2021 (https://arxiv.org/html/2607.24783#bib.bib8); Boselliet al., 2017 (https://arxiv.org/html/2607.24783#bib.bib10); Colomboet al., 2019 (https://arxiv.org/html/2607.24783#bib.bib11); Ikudoet al., 2019 (https://arxiv.org/html/2607.24783#bib.bib12); Kouretsiset al., 2020 (https://arxiv.org/html/2607.24783#bib.bib13); Russet al., 2016 (https://arxiv.org/html/2607.24783#bib.bib14); Zhanget al., 2022 (https://arxiv.org/html/2607.24783#bib.bib15); Goindaniet al., 2017 (https://arxiv.org/html/2607.24783#bib.bib16); Qinet al., 2019 (https://arxiv.org/html/2607.24783#bib.bib17)) 中被广泛探索。与我们最相关的工作是 (Li et al., 2020 (https://arxiv.org/html/2607.24783#bib.bib7))，该工作介绍了 LinkedIn 针对大基数属性的岗位标准化模型。他们的方法结合了用于候选选择的字符串匹配实体标记和用于排序的深度神经网络。

LLM 最近已被应用于岗位属性标准化 (Li et al., 2023 (https://arxiv.org/html/2607.24783#bib.bib18); Decorteet al., 2023 (https://arxiv.org/html/2607.24783#bib.bib19); Clavié and Soulié, 2023 (https://arxiv.org/html/2607.24783#bib.bib20); Achananuparpet al., 2026 (https://arxiv.org/html/2607.24783#bib.bib21))。例如，(Li et al., 2023 (https://arxiv.org/html/2607.24783#bib.bib18)) 使用 LLM 总结职位描述，将摘要和标准化职业编码为嵌入，并应用嵌入检索进行职业映射。(Decorteet al., 2023 (https://arxiv.org/html/2607.24783#bib.bib19)) 生成合成标记数据集，用于训练技能提取的双编码器模型，而 (Clavié and Soulié, 2023 (https://arxiv.org/html/2607.24783#bib.bib20)) 使用 GPT 为二元技能分类器创建合成数据，随后进行基于 GPT 的重排序。最后，(Achananuparpet al., 2026 (https://arxiv.org/html/2607.24783#bib.bib21)) 提出了一个评估 LLM 在职业分类任务上性能的框架。

先前的工作集中于通过指令微调 (Wei et al., 2022 (https://arxiv.org/html/2607.24783#bib.bib29)) 和思维链提示 (Kojimaet al., 2022 (https://arxiv.org/html/2607.24783#bib.bib30)) 等技术来改进 LLM 的零样本学习。相比之下，我们的方法针对较小的 LLM (SLM)，通过领域特定的蒸馏任务来增强其零样本性能。

LLM 已被广泛用于查询理解 (Liu and et al, 2026 (https://arxiv.org/html/2607.24783#bib.bib22); Luoet al., 2022 (https://arxiv.org/html/2607.24783#bib.bib23), 2024 (https://arxiv.org/html/2607.24783#bib.bib24); Zhanget al., 2020 (https://arxiv.org/html/2607.24783#bib.bib25); Srinivasanet al., 2022 (https://arxiv.org/html/2607.24783#bib.bib26); Daiet al., 2024 (https://arxiv.org/html/2607.24783#bib.bib27); Abeet al., 2025 (https://arxiv.org/html/2607.24783#bib.bib28))。这些工作主要集中在用户意图检测上。在 (Liu and et al, 2026 (https://arxiv.org/html/2607.24783#bib.bib22)) 中，作者使用 LLM 进行查询属性（即搜索分面）标记，但只考虑了有限的一组属性，使用一个提示微调 LLM 就足以解决该问题。

我们的工作与上述工作的不同之处在于，我们专注于招聘信息理解任务。我们设计了一个语义建模框架来处理大量的岗位属性，同时通过提高 SLM 基础模型的零样本学习能力以及高效的任务微调来确保高模型性能。

## 3. 招聘信息理解语义建模框架

在本节中，我们将介绍我们提出的基于 SLM 的招聘信息理解语义建模框架。我们首先对 LinkedIn 招聘信息理解任务进行初步概述，以进一步阐述我们方法的背景。

### 3.1. LinkedIn 招聘信息理解初步

如前所述，LinkedIn 招聘信息理解涉及将原始、非结构化的招聘帖子数据转换为标准化或衍生的属性。这些任务可以大致分为基于分类法的任务和无分类法的任务（例如，薪资、工作年限）。基于分类法的任务可以进一步分为：

- **大基数属性**（例如，公司、地点、技能、职称），传统上 (Li et al., 2020 (https://arxiv.org/html/2607.24783#bib.bib7)) 需要两阶段方法——先检索再排序——以支持分类法的可扩展性。
- **小基数属性**（例如，工作场所类型、雇佣类型、经验级别），涉及直接提取或分类，无需检索。

对于小基数属性，我们将所有分类法值包含在提示中，并微调一个 SLM 以选择正确的值，作为一种分类任务。对于大基数属性，在提示中枚举所有值是不切实际的，因此我们采用两阶段设计：检索模型首先缩小候选集（第一阶段），然后 SLM 在这些检索到的候选项上进行分类（第二阶段）。本文专注于为小基数分类和大基数属性的第二阶段分类构建高效的微调 SLM。

---

**图 1. 多适配器模型训练与带有属性分组的服务架构。**