HNR-DAC:面向科学声明验证的难负样本重排序与分布对齐分类

arXiv cs.CL 论文

摘要

本文提出了HNR-DAC,一种用于引用论文科学声明验证的两阶段框架,结合了难负样本重排序与分布对齐分类。该方法在NLPCC 2026 Task 10 Track 2上表现优异,以最高的Macro-F1位列排行榜第三名。

arXiv:2608.07204v1 公告类型:新 摘要:对引用论文进行科学声明验证,需要预测声明与论文之间的关系,并识别支持该预测的段落。这种设定带来了两个相互关联的挑战:论文内部的干扰项往往与真实证据相似,而基于金标准证据训练的分类器在推理时必须在检索到的证据上运行。我们提出了HNR-DAC,一个两阶段框架,每个阶段都在其实际会遇到的情形上进行训练。难负样本重排序(HNR)利用基础重排序器在非金标准段落上的得分来量化证据的混淆程度,并将金标准证据与最易混淆的候选进行对比。分布对齐分类(DAC)使用与构造推理输入相同的冻结HNR所生成的Top-1段落进行训练,而HNR的Top-3段落标识符则作为证据输出。在NLPCC 2026 Task 10 Track 2上,最终配置获得了97.21%的Hit@3、95.79%的Macro-F1、94.47%的Joint@3以及95.13%的平均分。对应的提交在官方Track 2排行榜上排名第三,同时取得了最高的整体Macro-F1(93.05%),以及70.16%的Joint@3和81.61%的平均分。
查看原文
查看缓存全文

缓存时间: 2026/08/10 08:05

# HNR-DAC:面向科学声明验证的难负样本重排序与分布对齐分类
Source: https://arxiv.org/html/2608.07204
11institutetext:南方科技大学,深圳,中国
11email:12533253@mail\.sustech\.edu\.cn22institutetext:人工智能研究院,深圳先进技术大学,深圳,中国
22email:250701451@stu\.suat\-sz\.edu\.cn, \{zhangluoxi,nishiwen\}@suat\-sz\.edu\.cn33institutetext:中国科学院深圳先进技术研究院,深圳,中国
33email:min\.yang@siat\.ac\.cn###### 摘要

对给定引用论文的科学声明验证,需要预测声明–论文之间的关系,并识别为这一预测提供依据的段落。这一设定带来两个相互关联的挑战:论文内部的干扰项往往与真实证据相似,而基于黄金证据训练的分类器在推理时却必须作用于检索到的证据。我们提出 HNR-DAC,一种两阶段框架,每个阶段都在其实际会遇到的情形上进行训练。难负样本重排序(HNR)利用基础重排序器对非黄金段落的打分来量化证据混淆度,并将黄金证据与最易混淆的候选段落进行对比。分布对齐分类(DAC)在同一个冻结 HNR 生成的 Top-1 段落上训练,该 HNR 也用于构造推理输入;同时,HNR 的 Top-3 段落标识作为证据输出。在 NLPCC 2026 任务 10 Track 2 上,最终配置取得了 97.21% 的 Hit@3、95.79% 的 Macro-F1、94.47% 的 Joint@3 和 95.13% 的平均分。对应提交在官方 Track 2 排行榜上排名第三,同时以 93.05% 的整体 Macro-F1 取得最高值,并达到 70.16% 的 Joint@3 和 81.61% 的平均分。

## 1 引言

大语言模型(LLMs)能够生成文献综述草稿和带引文支撑的科学文本[1 (https://arxiv.org/html/2608.07204#bib.bib23),2 (https://arxiv.org/html/2608.07204#bib.bib12),16 (https://arxiv.org/html/2608.07204#bib.bib24)],但它们做出的声明可能得不到所引用来源的支持,或者不能准确代表这些来源[15 (https://arxiv.org/html/2608.07204#bib.bib4),17 (https://arxiv.org/html/2608.07204#bib.bib6)]。因此,AI 辅助科学报告的可信度不仅取决于生成是否流畅,还取决于声明是否忠实于其所引用的证据。NLPCC 2026 共享任务 10 正是围绕这一问题设计[5 (https://arxiv.org/html/2608.07204#bib.bib1)]。本文聚焦于 Track 2,每个实例提供一条原子化的 AI 生成声明及其引用论文的结构化全文。系统必须判断该论文是支持、夸大、仅主题相关还是与声明无关,同时返回排序后的证据段落标识。

该任务遵循 FEVER 和 SciFact 确立的检索-验证范式[11 (https://arxiv.org/html/2608.07204#bib.bib7),12 (https://arxiv.org/html/2608.07204#bib.bib8)],但设定了一个更具约束性的检索场景:引用论文已固定,证据需要在段落级别识别,并且关系标签取决于所选段落是否支持声明的确切范围。

这种固定论文的设定带来两个分阶段特有的困难。在证据重排序方面,主题重叠在引用论文中普遍存在:许多非黄金段落与声明共享实体、术语和实验设置。因此,最具信息量的负样本并不是任意的非黄金段落,而是当前重排序器本身视为疑似证据的那些段落。我们将这种与声明相关且依赖于模型的倾向称为证据混淆度。在关系分类方面,仅使用黄金证据训练会让分类器看到的上下文比推理时可用的自动检索段落更为干净。因此,重排序器需要论文内部易混淆的证据负样本,而分类器则需要由它在推理时将遇到的检索流程所生成的上下文。

我们提出 HNR-DAC,一种两阶段框架,每个阶段都在其实际会遇到的案例上进行训练。难负样本重排序(HNR)使用基础重排序器分配给非黄金段落的分数来具体化证据混淆度,然后通过分组对比目标训练一个交叉编码器,将黄金证据段落与最易混淆的候选段落区分开。分布对齐分类(DAC)冻结训练好的 HNR,并在其排名第一的段落上微调一个四分类器,使训练和推理中构造分类器输入的检索过程保持一致。这种构造适用于全部四个类别,包括为 `Irrelevant` 声明提供非空 Top-1 输入。在推理时,DAC 的关系标签与 HNR 的 Top-3 段落标识一起构成证据输出。在开发集上,最终配置达到 97.21% 的 Hit@3、95.79% 的 Macro-F1、94.47% 的 Joint@3 和 95.13% 的平均分,对应提交在官方 Track 2 排行榜上排名第三[4 (https://arxiv.org/html/2608.07204#bib.bib2)]。

本文的主要贡献如下:

- •我们提出 HNR,它使用基础重排序器的分数量化证据混淆度,并针对每篇引用论文中最易混淆的非黄金段落进行训练。
- •我们提出 DAC,它在推理时使用的同一个冻结 HNR 生成的 Top-1 段落上训练关系分类器,同时保留 Top-3 段落标识作为证据输出。
- •我们证明,混淆度引导

相似文章

高風險醫療檢索增強生成的聲明選擇性認證

arXiv cs.CL

本文針對高風險醫療檢索增強生成(RAG)提出聲明選擇性認證,將響應分解為可驗證的聲明,並根據證據進行評分,通過意圖感知選擇器產生操作(完整、部分、衝突、棄權),實現了低無支持聲明風險和高操作準確性。