漂移感知时间图重连（DATGR）用于生物医学文本的自适应语义建模

# 面向自适应语义建模的漂移感知时序图重连（DATGR）技术及其在生物医学文本中的应用
来源：https://arxiv.org/html/2607.08490
Bharathwaj Vijayakumar¹ 与 Sahana K. Varadaraju²
¹Bharathwaj Vijayakumar 就职于罗文大学机构数据与分析部门，美国新泽西州（电子邮件：[email protected]）
²Sahana K. Varadaraju 就职于罗文大学信息资源与技术部门，美国新泽西州（电子邮件：[email protected]）
© 2026 IEEE。允许个人使用此材料。如需用于任何当前或未来媒体中的其他用途，包括为了广告或促销目的而重印/转载此材料、创作新的衍生作品、转售或再分发至服务器或列表、或重用本作品中任何受版权保护的组件，均须获得IEEE的许可。DOI: 10.1109/CAI68641.2026.11536228

###### 摘要

随着新发现不断涌现，生物医学语言迅速演变，导致传统文本模型随着时间的推移失去语义保真度。静态嵌入和共现图无法捕捉这种演变，从而在检索和知识发现任务中导致性能下降。本文介绍了一种**漂移感知时序图重连（DATGR）**框架，该框架通过基于估计的语义漂移动态更新共现边来建模概念演变。DATGR无需为每个时间片重新训练嵌入，而是使用应用于边权重的逻辑更新规则，执行轻量级的、反馈驱动的重连。在生物医学多关系语料库（BIOMRC）上评估，该方法在受试者工作特征曲线下面积（AUROC）上实现了约0.066的绝对差值提升（0.699对比0.633）。精确率-召回率曲线下面积（AUPRC）保持可比性（0.738对比0.744），表明漂移感知自适应提高了链接预测的召回率，同时没有损失精确率。这些结果表明，边级别的自适应有效地捕捉了演变中生物医学文本的时序语义变化，同时保持了计算效率和可解释性。

## I. 引言

生物医学出版物的指数级增长已将科学文本转变为一个持续演变的知识生态系统。每周有数千篇新的摘要出现在PubMed及相关存储库中，引入了新概念、药物-化合物相互作用和术语，从而改变了该领域的语义结构。捕捉这种概念演变对于文献挖掘、知识图谱构建和检索增强生成等应用至关重要。然而，大多数基于图或基于嵌入的文本模型仍然假设词和实体之间的关系是静态的，随着意义随时间漂移，这些关系很快就会过时。

传统的共现图[1]和词嵌入，如word2vec[2]或GloVe[3]，将语义视为静态的。实际上，生物医学术语如“免疫检查点”、“mRNA疫苗”或“病毒载体”会随着研究进展而演变，导致可测量的语义漂移[4,5,7]。因此，静态模型错误地表示了新兴的关联，并在用于下游分析时降低了检索准确性。

为了缓解这一问题，研究者提出了几种时序嵌入框架[6,7]和动态图神经网络（DGNN）及其综述[8,10]。虽然有效，但许多方法需要对每个时间片进行重训练或顺序微调；这些方法计算成本高且限制了可解释性。此外，大多数方法关注节点级别的漂移（即单个词向量的变化），而不是边级别的漂移（即捕捉术语之间演变的共现结构）。DATGR不重新训练嵌入，而是使用漂移加权逻辑更新规则重新连接词共现图，从而实现无需完全重新嵌入的持续自适应。在BIOMRC语料库上评估，所提出的模型在AUROC上比静态基线实现了约0.066的绝对提升（0.699对比0.633），同时保持了可比的AUPRC性能（0.738对比0.744）。这些结果表明，轻量级的、反馈驱动的边更新可以有效捕捉语义演变，同时保持精确率。

本研究的主要贡献如下：

- • 一种面向时序共现图的漂移感知重连机制，无需重训练嵌入即可高效建模边的演变（DATGR）；
- • 在真实生物医学文本上的实证演示，显示在时间窗口上链路预测AUROC的提升和稳定的精确率-召回率行为；
- • 一个可扩展的自适应语义建模基础，适用于演变领域，如生物医学知识追踪、检索增强和本体维护。

## II. 相关工作

模拟语言时序变化的研究沿三个主要方向发展：静态共现图、时序词嵌入和动态图学习。

早期基于词共现统计的方法将术语关系视为静态[1]。虽然这种表示在单一时间点上有效捕捉了词关联，但忽略了意义随领域演变而变化的方式。分布嵌入如word2vec[2]和GloVe[3]改进了语义表示，但仍然是时间不变的。最近关于生物医学文献时序嵌入的工作探索了语境意义如何随时间变化[11]。为了解决时序变异性，研究人员提出了历时或动态嵌入，显式模拟跨时间的意义变化。Hamilton等人[4]分析了词嵌入轨迹以揭示语义变化的统计规律，而Tahmasebi等人[5]综述了检测词汇语义变化的计算方法。Bamler和Mandt[6]引入了概率动态嵌入，将词转换建模为通过时间的潜在轨迹。Nicholson等人[7]分析了大规模生物医学语料库，并展示了生物医学科学语言中的领域特定语义漂移。

动态图学习直接处理时序网络。最近关于DGNN和时序知识图谱的综述（例如[8]）总结了在边到达时更新节点表示的架构[8]。然而，许多此类方法强调节点嵌入，而不是反映共现强度的直接边更新。所提出的DATGR不同，它通过轻量级逻辑重连规则显式建模边漂移，在保持可解释性和效率的同时实现时序敏感性。

## III. 方法论

所提出的DATGR框架通过增量式的、边级别的图自适应来建模生物医学科语义的演变，而不是完全重新嵌入。它包含四个模块：(1) 语料库的时序分割，(2) 使用句子嵌入进行漂移估计，(3) 漂移加权图重连，以及 (4) 使用节点嵌入进行链路预测。图1说明了这一流程。

参见图注 图1: DATGR（漂移感知时序图重连）框架概述，展示了时序分割、漂移估计、图重连和链路预测评估的阶段。

### III-A. 时序分割与图构建

将生物医学语料库划分为T个时间窗口{W₁, W₂, ..., W_T}，每个窗口代表一个不同的语义时期。对于每个窗口，将分词后的摘要转换为一个无向加权图G_t = (V_t, E_t, W_t)，其中V_t表示高频生物医学术语，E_t编码上下文窗口大小为n内的共现。每条边的权重通过最大观测频率进行归一化：

W_t(i,j) = Count(i,j) / max_{a,b} Count(a,b).  (1)

这种归一化允许在不同窗口之间（语料库大小不同）比较边的强度。

### III-B. 漂移感知重连规则

DATGR引入了一个逻辑边更新规则，该规则根据两个词(i,j)之间的先验权重、当前共现强度和局部漂移来调整边权重。

我们用s_t(i,j) = W_t(i,j)表示当前窗口t中的归一化共现强度（参见式(1)），并定义成对变化

Δ_{ij} = s_t(i,j) - s_{t-1}(i,j).  (2)

给定漂移幅度D_t(·)，从t-1到t的边更新为

Ŵ_t(i,j) = (1-η) W_{t-1}(i,j)
           + η σ( b₀ + b₁ s_t(i,j) + b₂ Δ_{ij}
                  + b₃ [D_t(i) + D_t(j)] ),   (3)

其中σ(x)=1/(1+e^{-x})是逻辑变换，η∈[0,1]是适应率。第一项通过W_{t-1}的凸组合保持惯性，而第二项使用当前证据（s_t）、其变化（Δ_{ij}）和局部漂移信号（D_t）注入创新。由于W_{t-1}∈[0,1]且σ(·)∈(0,1)，凸组合保证了Ŵ_t(i,j)∈[0,1]。

#### 实践注意

我们发现η∈[0.1,0.2]可以在稳定性和响应性之间取得平衡。系数(b₀,b₁,b₂,b₃)可以在验证切片上调整；当变化项有噪声时，设置b₂=0可将规则简化为漂移和强度加权更新。可以对D_t(·)应用一个小阈值以忽略可忽略的漂移。

### III-C. Top-k稀疏化与稳定性

重连后，每个节点仅保留其按Ŵ_t(i,j)排序的前k个邻居。这强制了稀疏性，并减轻了由于虚假词共现导致的噪声传播。经验上，k=5提供了稳定性与适应性之间的最佳权衡，产生了跨时间一致的图密度。

### III-D. 节点嵌入与链路预测

通过Node2Vec嵌入更新后的图Ĝ_t，为每个节点u生成潜在表示Z_u。每个候选边(u,v)表示为逐元素乘积：

z_{uv} = Z_u ⊙ Z_v.  (4)

训练一个逻辑回归分类器来预测(u,v)是否会在G_{t+1}中出现，从而有效测试模型预测新语义关联的能力。

### III-E. 计算复杂度

令|E_t|为每个窗口的边数。DATGR的更新复杂度为O(|E_t|)，因为每条边权重是独立修改的，避免了O(|V|²)的重新嵌入或时间反向传播成本。这使得计算成本远低于动态GNN方法，同时保持了可比的时序敏感性。

### III-F. 算法总结

**算法1** 漂移感知时序图重连（DATGR）
1: 将语料库分割为窗口 {W₁, ..., W_T}
2: for t=2 到 T do
3:     构建共现图 G_t
4:     计算词漂移 D_t(w)
5:     for 每条边 (i,j) ∈ G_{t-1} do
6:         使用式(3)更新权重 Ŵ_t(i,j)
7:     end for
8:     保留每个节点的前k条边
9: end for
10: 在 Ĝ_t 上训练 Node2Vec；预测 G_{t+1} 中的边

## IV. 实验与结果

### IV-A. 数据集与时序分割

实验使用BIOMRC数据集[14]，将其划分为T=4个窗口，每个窗口约1000篇摘要，形成伪时间顺序快照。

### IV-B. 图构建

对于每个窗口，选取400个最频繁的生物医学术语构成V_t，生成约400个节点和4k-5k条边。共现权重遵循式(1)。

### IV-C. 语义漂移估计

使用all-MiniLM-L6-v2生成嵌入。窗口之间的漂移通过连续词表示之间的余弦距离计算。

### IV-D. 基线与配置

将静态图基线（固定边）与使用相同设置的DATGR进行比较：η=0.2，(b₀,b₁,b₂,b₃)=(0,3,2,1)，top-k=5；Node2Vec维度=64，游走长度=8，每个节点20次游走，上下文窗口=5，种子=42。

### IV-E. 定量结果

将DATGR与静态基线在连续时间窗口上的链路预测性能进行比较。性能通过AUROC和AUPRC衡量，并在三个连续窗口转换（0→1, 1→2, 2→3）上取平均。表I总结了结果。

**表I:** 静态 vs. 漂移感知（DATGR）链路预测性能。

参见图注 图2: 跨时间窗口的AUROC。DATGR始终优于静态基线，每个窗口约获得0.066的提升。
参见图注 图3: 跨时间窗口的AUPRC。DATGR与静态模型保持可比，表明在未降低精确率的情况下提高了召回率。
参见图注 图4: DATGR重连后每个时间窗口的边编辑数量，展示了稳定且自适应的结构更新。

### IV-F. 图表与结果分析

图2显示，DATGR在所有窗口上实现了持续的AUROC提升，与静态模型相比平均绝对增益约为0.066。这表明我们提出的方法提高了模型区分新兴与过时语义关系的能力。DATGR曲线保持稳定，反映了跨时间切片的稳健泛化，而不是过拟合单个窗口。

在图3中，静态和漂移感知模型实现了相似的AUPRC水平（约0.74）。DATGR在后续窗口中略超基线，总体保持可比。这种稳定性表明DATGR在适应新连接的同时保持了精确率，意味着召回率的扩展是平衡的。

图4说明DATGR在每个时间转换中修改了一致且适中的边数，证实了适应发生在不破坏整体结构的情况下。这种“稳定的重”