非全或无:对话立场检测中的目标感知记忆图动态构建
摘要
本文提出了TamGraph,一种目标感知记忆图方法,该方法使用熵引导机制动态选择相关历史对话,以增强LLM在对话立场检测任务中的性能。
arXiv:2608.29066v1 公告类型:新
摘要:立场检测对于理解表达对目标的底层态度至关重要。对话立场检测是真实世界社交媒体场景中更具挑战性的立场检测任务,因为它涉及利用跨对话会话的目标相关历史陈述来检测用户的立场。在本文中,我们提出了目标感知记忆图TamGraph,一种新颖的方法,该方法动态利用目标相关陈述进行对话立场检测。TamGraph不是考虑所有先前历史对话或不使用先前对话信息进行立场检测,而是采用逐步的、熵引导的回溯机制,从历史对话中选择性激活记忆,并动态构建目标感知图来建模话语之间的立场关系。这允许利用对话历史中的目标相关信息进行立场检测,同时防止引入噪声。在英语和中文基准上的实验结果表明,我们的TamGraph显著提高了LLM在对话立场检测中的性能。
查看缓存全文
缓存时间: 2026/09/01 12:16
# 非全有或全无:面向对话立场检测的动态目标感知记忆图构建
来源:https://arxiv.org/html/2608.29066
**向一帆**
单位:香港中文大学,中国香港
单位:高可信软件技术教育部重点实验室,中国
**梁彬**††注:通讯作者
单位:香港中文大学,中国香港
单位:高可信软件技术教育部重点实验室,中国
**徐瑞丰**
单位:哈尔滨工业大学(深圳),中国,深圳
\{yfxiang, kfwong\}@se\.cuhk\.edu\.hk, bin\.liang@cuhk\.edu\.hk
**黄锦辉**
单位:香港中文大学,中国香港
单位:高可信软件技术教育部重点实验室,中国
###### 摘要
立场检测对于理解表达对特定目标的潜在态度至关重要。对话立场检测是现实社交媒体场景中更具挑战性的立场检测任务,因为它需要通过利用跨对话会话的目标相关历史陈述来检测用户的立场。本文提出了一种新颖的方法——**目标感知记忆图(TamGraph)**,用于对话立场检测,该方法动态地利用目标相关的陈述。与考虑所有历史对话或不使用任何先验对话信息进行立场检测不同,我们的 TamGraph 采用逐步、熵引导的回溯机制,有选择地激活历史对话中的记忆,并动态构建一个目标感知图来建模话语之间的立场关系。这使得能够从对话历史中挖掘目标相关信息用于立场检测,同时避免引入噪声。在英文和中文基准测试上的实验结果表明,我们的 TamGraph 显著提升了大语言模型在对话立场检测上的性能。
参考插图
**图 1**:我们的方法与其他提示基线方法的比较。
## 1 引言
立场检测旨在确定人们对特定目标、实体、话题或主张的帖子中所表达的观点立场或态度(例如,支持、反对或中立)[Augenstein 等,2016]。而对话立场检测则需要根据对话信息,确定对话话语对给定目标的立场是支持、反对或中立[Niu 等,2024]。现有的基于大语言模型的立场检测研究[Zhang 等,2022;Zhang 等,2023;Gatto 等,2023]展示了大语言模型在各种提示策略下的强大能力。一些工作设计推理链以引出渐进且可解释的推断[Ma 等,2024;Weinzierl 和 Harabagiu,2024],而其他工作则展示了通过微调进行数据增强的可行性[Zhao 等,2024;Ding 等,2024;Wagner 等,2024]。此外,面向偏差的分析研究了大语言模型在不同设置下的行为,提供了缓解方向[Li 等,2025;Nguyen 和 Kim,2025]。然而,这些方法通常只关注单个话语的立场,因此未能反映现实场景(例如,社交媒体帖子串),在这些场景中,话语嵌入在对话中。
近期的研究进展[Niu 等,2024;Ding 等,2025;Niu 等,2025]引入了对话立场检测基准,并提出了利用对话信息进行立场检测的有前景的方法。然而,这些方法的一个关键局限在于它们粗略地依赖完整的对话历史。这种策略未能考虑到吸收过多会话通常包含大量与目标无关或具有误导性的内容,这不仅引入噪声,还会阻碍立场检测。为了解决这些局限性,我们提出了一种新颖的对话立场检测方法,该方法在对话过程中动态构建**目标感知记忆图**,称为 **TamGraph**。
TamGraph 基于大语言模型,采用逐步和熵引导的回溯机制,有选择地从对话历史中激活目标相关信息作为记忆,用于动态构建目标感知图,从而能够建模话语之间的立场关系。该过程逐步将能够增强立场预测置信度的记忆纳入图中,并在证据充分时停止,本质上避免了对整个对话进行粗暴而不加区分的注入。最终,这生成了一个以目标为中心、经过剪枝的上下文,过滤掉无关噪声和误导信息,从而在复杂的多轮交互中实现更可靠的立场检测。
更具体地说,TamGraph 对对话历史执行目标感知回溯。从最后一个话语开始,它沿着回复链向后遍历,仅依次检索先前那些命题与目标相关的对话轮次,并将其激活为记忆。在每个步骤中,它推断从检索轮次中获得的新激活命题与上一个保留轮次命题之间的关系(例如,支持、反对、质疑)。然后,动态地更新目标感知记忆图,其中命题作为节点,推断出的轮次间关系作为边。更新后的图被序列化为结构化提示,并提供给大语言模型进行立场检测。关键的是,大语言模型中间推断的熵为选择性记忆更新和提前停止提供了原则性信号:(i) 仅当新检索的轮次能提高预测置信度时才保留该轮次并更新记忆图;(ii) 当熵达到预定义的阈值或没有更多可用的对话轮次时,回溯过程终止。
此过程产生了一个逐步精炼的记忆图,保留支持性证据并丢弃无帮助的历史信息。在英文基准 MT-CSD 和中文基准 ZS-CSD 上的实验结果表明,我们的 TamGraph 显著提升了大语言模型在对话立场检测上的性能。我们的主要贡献如下:
- 我们首次引入了一种逐步回溯的方法用于对话立场检测,其动机源于观察到:包含整个对话历史可能引入与目标无关或具有误导性的信息,从而降低预测准确率。
- 我们提出了 **TamGraph**(目标感知记忆图),它有选择地从对话的前序轮次中激活目标相关的记忆,并将其与关系一起编码到目标感知记忆图中,从而提供信息丰富且以目标为中心的上下文,同时减轻来自无关或误导性轮次的噪声。
- 在英文基准 MT-CSD 和中文基准 ZS-CSD 上的实验结果表明,TamGraph 在多种大语言模型骨干网络上,始终优于多个提示基线和消融变体,证明了逐步、回溯和熵引导策略的有效性。此外,将 TamGraph 应用于 Qwen2.5-14B-Instruct 和 Qwen3-4B-Instruct-2507 模型,在多轮和单轮输入设置下均达到了与强大闭源基线 GPT-4o-mini 相当的性能。
## 2 相关工作
### 2.1 基于大语言模型的立场检测
最近,一系列工作将大语言模型应用于立场检测。TR-ZSSD [Weinzierl 和 Harabagiu,2024] 和 CoSMa [Ma 等,2024] 提出了提示方案来指导大语言模型执行渐进推理,产生可解释且准确的预测。同时,微调为赋予大语言模型任务特定知识提供了实用机制;因此,带有数据增强的微调已在立场检测中展示了可行性 [Zhao 等,2024;Ding 等,2024;Wagner 等,2024]。然而,这些工作主要关注没有多轮上下文的单个话语的立场检测,而我们将这一研究领域扩展到了对话场景。
### 2.2 对话立场检测:方法与数据集
超越单个话语设置,近期工作已探索了多轮上下文和基准中的立场检测。GLAN [Niu 等,2024] 引入了一个大规模的英文对话立场检测数据集 MT-CSD 和 GLAN 框架,该框架通过注意力、CNN 和 GCN 组件建模回复依赖性和局部交互。ZS-CSD [Ding 等,2025] 将这一研究扩展到中文,发布了另一个数据集并提出了 SITPCL,该方法结合了基于说话者交互图(跨越说话者内和说话者间关系)与目标感知原型对比学习。然而,这些研究通常没有考虑基于大语言模型的框架,而这正是我们工作的主要关注点。
## 3 方法
给定对话 D=(U,E,τ),其中 U={u1,...,un} 是话语序列 ui,E 是话语之间的回复链接,τ 是目标,任务是预测最后一个话语 un∈U 的立场。我们提出了**目标感知记忆图**(TamGraph),它对对话历史执行目标感知的向后检索,为基于大语言模型的立场检测逐步生成记忆上下文。它逐步将早期轮次中与 τ 相关的命题激活为记忆,并构建一个动态的目标感知记忆图,其边编码了这些命题之间的关系(例如,支持、反对、质疑)。随后,通过将逐步重构的记忆图作为提示提供给大语言模型来检测立场。在每个步骤,我们采用熵阈值来确定:(i) 新检索到的记忆是否提高了预测置信度并应被保留,以及 (ii) 当前记忆图是否提供了足够的证据以做出提前停止的决定。
### 3.1 TamGraph 初始化
我们构建一个基于大语言模型的分类器 fθ,它基于结构化提示 Π(⋅),产生单个标签 y∈Y={favor,against,none}。在步骤 t=0,我们用 V0=un 和 E0=∅ 初始化 TamGraph G0=(V0,E0),并从 G0 构建提示 C0。通过用 Π(C0) 提示 fθ,我们获得对数概率 z0,预测标签 y0:
z0,y0=fθ(Π(C0))
以及概率 p0=softmax(z0)。对于每个步骤 t,我们定义熵 H(pt) 为:
H(pt)=−∑y∈Ypt(y)log pt(y)
并选择一个熵阈值 θ。如果 H(p0)≤θ,我们输出 y0 作为最终决策。
### 3.2 TamGraph 更新与推理过程
否则,如果 H(p0)>θ,我们保留 u0,设 H(pr)=H(p0),将预测视为不确定,并迭代地扩展 TamGraph。在步骤 t≥1,我们有最后保留的话语 ur(例如,在步骤 t=1,ur=un)和 E 上的前一个话语 ut。我们通过**命题提取**从 ut 中激活记忆以获得目标相关的命题 S(ut):
S(ut)={st,1,...,st,m}, st,i⊆un。
以及 S(ur)。接下来,我们在 S(ut) 和 S(ur) 之间执行**关系推断**,得到:
Rt={(si,sj,ρ)∣si∈S(ut),sj∈S(ur)},
其中 ρ∈{support,against,questions,...} 表示 sj 对 si 的立场。然后,我们通过添加节点 ut 和边 Rt 构建更新的 TamGraph G~t=(V~t,E~t):
V~t=Vt−1∪ut,
E~t=Et−1∪{si←ρsj∣(si,sj,ρ)∈Rt}。
我们从 G~t 构建提示 Ct,并重新计算 zt,yt=fθ(Π(Ct)),pt=softmax(zt),和 H(pt)。如果 H(pt)≤H(pr),我们保留此记忆更新,设 Gt=G~t,ur=ut 且 H(pr)=H(pt);否则,我们丢弃 ut,保持 Gt=Gt−1,并处理 E 上的前一个话语 ut+1。当 H(pt)≤θ 或没有更多前序话语时,递归终止,最终决策是最后保留的 TamGraph 更新所产生的预测 y。
详细过程见算法 1(Algorithm 1),所有提示详见附录 A 中的表 17、表 18、表 19 和表 20。
**算法 1 TamGraph 构建过程**
输入: D=(U,E,τ),熵阈值 θ
输出: y∈{favor,against,none}
G←{un};
C=build_prompt(G);
(z,y)←fθ(Π(C));
p←softmax(z);
H←Entropy(p);
if H≤θ then return y;
ur←u0;
ut←ur 在 E 中的回复指向的话语;
while ut≠∅ and H>θ do
S(ut)←proposition_extraction(ut, τ);
S(ur)←proposition_extraction(ur, τ);
R←relation_induction(S(ut), S(ur), τ);
G~←G∪ut∪R;
C=build_prompt(G~);
(z,y)←fθ(Π(C));
p←softmax(z);
H_new←Entropy(p);
if H_new≤H then
G←G~;
ur←ut;
H←H_new;
end if
ut←ur 在 E 中的回复指向的话语;
end while
return y;相似文章
G-Long: 图增强内存管理用于高效长期对话代理
G-Long 提出了一种用于长期对话代理的图增强内存管理框架,利用微调的小型语言模型进行结构化三元组提取和关联检索,在响应生成和内存检索方面取得了最先进的性能,同时降低了计算开销。
TRACE: 基于时间证据图的对话数据状态感知查询处理
本文提出 TRACE,一种查询处理框架,将对话数据建模为时间证据图,以支持对不断演进的用户状态进行状态感知推理,从而提高长对话问答中的时间推理和多跳推理能力。
EvoGraph-Mem:面向长期语言代理的失败感知可编辑图记忆
提出了 EvoGraph-Mem,一种用于长期语言代理的失败感知可编辑图记忆框架,该框架跟踪正面/负面证据和激活状态以获取洞察,通过基于效用的检索和图级编辑实现记忆维护。
时间上下文感知:针对大型语言模型多轮操纵攻击的防御框架
本文介绍了时间上下文感知(TCA),一种防御框架,通过分析语义漂移、跨轮次意图一致性和不断演变的对话模式来检测针对LLM的多轮操纵攻击,从而减轻跨对话的对抗性上下文构建。
Mem0:利用可扩展的长期记忆构建生产就绪的 AI 智能体
Mem0 引入了一种基于图表示的可扩展内存中心架构,旨在提升大语言模型(LLM)在长期对话中的连贯性,在显著降低延迟和 Token 成本的同时,性能优于现有的记忆系统。