使用图注意力网络建模权利要求依赖结构以预测专利诉讼

# 基于图注意力网络的专利诉讼权利要求依赖结构建模预测
来源：https://arxiv.org/html/2608.21924  
Takao Arai 单位：信息科学研究生院 单位：兵库大学 邮箱：[af24l001@guh\.u\-hyogo\.ac\.jp](mailto:)Hiroyasu Inoue 单位：信息科学研究生院 单位：兵库大学 单位：理化学研究所计算科学中心

###### 摘要

专利诉讼给企业带来巨大成本并扭曲研发激励，使得风险早期识别成为一项实际重要的任务。尽管先前工作已将基于BERT的模型应用于专利权利要求文本，但仍存在两个根本性限制：扁平序列编码丢失了法律上决定专利范围的独立与从属权利要求间的依赖结构；将整个权利要求集输入单一编码器会丢弃具有法律关键性的文本。对134万项美国专利商标局实用专利进行的六模型消融实验证实，逐权利要求编码、图连接性、注意力机制和注意力聚合各自提供独立、可叠加的预测价值。我们提出ClaimGAT，一种图注意力网络，它独立编码每条权利要求，构建有向权利要求依赖图，通过GATConv层处理该图，并通过注意力聚合汇总独立权利要求，从而生成诉讼风险评分和权利要求级门控权重，支持事后结构分析。ClaimGAT仅使用专利授权时可观测的信息，实现了0.818的AUC-ROC和前10%内4.89倍的提升度。研究揭示高风险专利中结构选择与内容敏感性呈现偏离趋势，该模式与防御性权利要求撰写行为一致。

#### 关键词：
专利诉讼预测，图注意力网络，权利要求依赖图，法律文本挖掘

## 1引言

专利诉讼给企业带来重大财务负担，影响研发投资决策与竞争策略（Huang et al. 2024a）。关键在于，即使在诉讼提起后，诉讼结果也难以预测：即使是最常被诉讼的专利，在审判中胜诉率也仅10.8%（Allison et al. 2010a），表明案件法律价值的预测具有固有挑战性。因此，在诉讼提起*前*准确识别哪些专利具有高诉讼风险具有重要价值：它使投资组合管理者能够在不依赖可能缺乏信息的起诉后信号的情况下采取早期行动。

机器学习研究的一条主线依赖于包含引用计数、权利要求数量、同族规模和受让人属性的结构元数据，其中受让人的资源禀赋成为最强预测因子（Trappey et al. 2012a; Juranek & Otneim 2024a）。近年来，使用权利要求文本的基于BERT的模型提高了预测准确性（Liu et al. 2018a; Sakthivel & Jose 2025a）。然而，仍存在两个根本性限制。

第一个是*扁平序列编码*问题。将所有权利要求作为单一词符序列输入BERT编码器，会丢失法律上界定专利范围的权利要求间引用结构。独立权利要求界定可执行权利的外边界，而从属权利要求构成抵御无效宣告的防御层（Liu & Chang 2025a）。当权利要求被串联成扁平输入时，这种层级关系被消除（图1）。Sakthivel & Jose 2025a设计的精心制作的下位词树评分（HTS）部分解决了结构问题，但依赖于无法覆盖专利特定技术法律术语的静态WordNet词典，且操作于句内语法层面而非权利要求间引用层面。

第二个限制是，在单次前向传播中联合编码所有权利要求，当总长度超过编码器上下文窗口时会导致重要权利要求文本被丢弃（Park et al. 2024a）。独立编码每条权利要求无需任何架构复杂性即可消除这种截断问题。

相关任务的证据支持显式结构建模。在专利授权预测中，Gao et al. 2024a证明了细粒度权利要求依赖图能解决扩展大语言模型（LLM）无法解决的问题。在专利相似性任务中，Tong et al. 2025a证明了通过层次位置和信息密度对权利要求进行加权能实现强大的预测性能。这些发现激励将类似的结构表示应用于诉讼预测，但此前尚无研究这样做。我们通过以下贡献填补这一空白：

1. 1\.我们提出ClaimGAT，它使用冻结的bert\-for\-patents编码器独立编码每条权利要求，构建有向权利要求依赖图，通过配备跳跃连接的两层GATConv层处理该图，并通过注意力聚合汇总独立权利要求，从而生成诉讼风险评分和权利要求级门控权重，支持事后结构分析。
2. 2\.通过六模型消融实验（Meta→Bert\_Concat→Bert\_Split→ClaimGCN→ClaimGAT\-IC→ClaimGAT），我们证明逐权利要求编码、图连接性、注意力机制和注意力聚合各自提供独立、可叠加的预测价值。ClaimGAT\-IC是一个消融版本，用IC中心池化替代注意力聚合，以隔离可学习聚合的贡献。
3. 3\.对注意力聚合门控分数的分析揭示，高风险专利中结构选择（门控权重）与内容敏感性（输入梯度）呈现偏离趋势，在最高风险三分位组中，前1匹配率降至27.8%（p<0.001，Mann–Whitney U检验），这与防御性权利要求撰写作为一种可能解释相一致。

图 1：扁平序列编码（左）与所提ClaimGAT（右）在相同六权利要求示例上的对比。扁平编码串联所有权利要求，丢弃超出512词符限制的C5和C6（阴影部分）并消除权利要求间引用。ClaimGAT独立编码每条权利要求并构建有向依赖图（填充=独立,h=0；空心=从属,h≥1）；黑色箭头标记每条从属权利要求对其父项的引用，这也是GATConv聚合方向，因此C5和C6得以保留。蓝色箭头将聚合后的独立权利要求输入注意力聚合，其门控权重（w\_\{1\},w\_\{4\},示例用）产生风险评分和权利要求级归因。我们仅关注授权时可观测的权利要求文本，排除授权后行为信号（所有权转让、维护费支付、再审），并暂不考虑已知具有强预测性的受让人资源属性（Juranek & Otneim 2024a; Lanjouw & Schankerman 2004a; Chien 2011a），以隔离权利要求结构的贡献。

## 2相关工作

我们从三个轴向组织先前工作，这些轴向激励了ClaimGAT的设计和任务边界。首先，我们回顾专利诉讼的法律和经济基础，证明风险具有结构性条件，尽管该文献主要依赖授权后可观测数据。其次，我们追溯诉讼预测的机器学习方法进展，从手工制作的结构特征到基于BERT的模型，并识别扁平序列编码和上下文窗口截断的持续瓶颈。第三，我们调查相邻NLP任务中专利权利要求的结构表示，建立一个空白：基于图的结构建模尚未在诉讼预测特有的严重类别不平衡下进行测试。

### 2\.1专利诉讼的法律与经济基础

一个基础性观察本身激励了诉讼预测任务：诉讼风险具有经济重要性且可从专利特征部分检测，但争议的法律价值却难以评估（Allison et al. 2010a）。该研究记录，即使是最常被诉讼的专利——那些根据经济指标预期最强的专利——在审判中胜诉率也不足10.8%，表明风险的事前识别本质上具有挑战性，因此具有实际价值。

经济研究进一步确立，这种风险受投资组合特征的结构性条件影响。Lanjouw & Schankerman 2004a证明小投资组合持有者面临系统性更高的诉讼风险，而大投资组合企业通过交叉许可而非诉讼解决争议。Huang et al. 2024a证明面对非执业实体（NPE）诉讼会促使目标企业转向内向型、自引密集型创新策略，凸显了升高的诉讼风险带来的战略扭曲。

除投资组合层面的条件影响外，诉讼风险也与权利要求层面特征结构性相关。Lanjouw & Schankerman 2001a记录被诉讼专利具有系统性更多的权利要求和更高的每项权利要求前向引用。Allison et al. 2003a通过显示权利要求数量与诉讼可能性之间的关联主要由*独立*权利要求数量而非从属权利要求驱动，从而完善了这一发现。Marco et al. 2019a验证了独立权利要求数量和长度作为专利范围的直接度量，将其与维护费、前向引用等既定的专利价值相关指标联系起来。这些发现确立了授权时可观测的权利要求结构与下游诉讼存在实证关联，并特别激励将独立权利要求作为聚合单元。

虽然Allison（2003）的研究表明从属权利要求*数量*本身不具预测性，但其结构性角色在法律上仍有意义：当更宽泛的独立权利要求被宣告无效时，它们作为更窄的后备立场发挥作用，且其与父项独立权利要求的层级关系以比权利要求数量更细的粒度编码范围信息（Liu & Chang 2025a）。这激励了一种沿权利要求依赖边传播信息而非将权利要求视为无序集合的架构。

至关重要的是，这些基础研究依赖于授权后累积的特征——前向引用计数、所有权转让记录和维护费行为。Chien 2011a证实，注定被诉讼的专利恰恰在这些授权后行为信号上与非诉讼专利产生差异，且远早于诉讼提起。其实际限制很明确：在组合管理阶段（早期干预最具价值时）授权后可观测数据尚不可用。遵循Juranek & Otneim 2024a的方法，我们将ClaimGAT限制于授权时可观测的特征，使其预测能在授权后信号累积前获得。

### 2\.2专利诉讼预测的机器学习研究

该领域的研究沿两个连续前沿进展：从结构元数据到权利要求文本，以及从手工特征到可学习表示。理解每种方法的局限性揭示了ClaimGAT旨在解决的具体限制。

早期方法完全依赖结构元数据。Trappey et al. 2012a引入了一种使用引用计数、权利要求数量和受让人属性的神经网络模型。Juranek & Otneim 2024a进行了迄今最全面的结构比较，在超过60万项美国专利商标局专利上评估了广泛的机器学习模型。他们的核心发现——受让人的资源禀赋主导预测性能——为基于文本模型设立了必须与之竞争的强大元数据上限。然而，此类元数据表征的是整个专利，无法说明哪个权利要求带来风险。

后续工作引入权利要求文本以突破此上限。Liu et al. 2018a提出卷积张量分解（CTF），结合权利要求文本与企业共现图以解决数据稀疏问题。Wu et al. 2023a通过在原告-被告-专利三元组上使用多方面神经张量分解（MANTF）扩展了此关系方法，进一步提高了少数类判别能力。Sakthivel & Jose 2025a融合BERT与手工制作的下位词树评分（HTS），后者部分编码权利要求间依赖结构，在平衡采样下报告了强准确性。

在将权利要求文本作为主要输入的方法中，存在两个根本性限制——这些限制最直接影响Liu et al. 2018a和Sakthivel & Jose 2025a。第一个是*扁平序列编码*：将所有权利要求串联为单一输入消除了法律上界定专利范围的权利要求间引用结构。第二个是*上下文窗口截断*：当串联的权利要求序列超过512个词符时，重要权利要求文本被静默丢弃。HTS部分解决了第一个限制，但它基于静态WordNet词典（无法覆盖专利特定技术法律术语），且操作于句内语法层面而非权利要求间引用层面。据我们所知，此前尚无工作为诉讼预测任务学习端到端的权利要求级依赖图表示。

### 2\.3专利权利要求的结构表示

来自相邻NLP任务的汇聚证据表明，对专利权利要求依赖关系的显式结构建模能提高预测性能——然而这些方法均未应用于诉讼预测。

在权利要求选择层面，Lee & Hsiang 2020a证明仅在第一个独立权利要求上微调BERT就超越了基于CNN的专利分类最先进水平，确立了使用哪些权利要求及其编码方式直接影响下游性能。Bekamiri et al. 2022a推广了这一发现，证明句级或子句级编码在跨专利分类任务中始终优于整文档编码。

在权利要求间结构层面，Gao et al. 2024a