HyPE：面向角色对话的类别感知超图编码与持久边嵌入

# HyPE：基于类别感知的超图编码与持久边嵌入方法用于人格锚定对话

来源：https://arxiv.org/html/2606.13142
Sangwon Youn Yoonjin Jang Youngjoong Ko 韩国成均馆大学 \{mikeyoun2000, yoonjinjang98\}@gmail\.com, yjko@skku\.edu

###### 摘要

人格锚定对话系统旨在生成与说话者人格一致的回复，但现有方法将人格视为句子的平铺集合，无法建模人格属性之间的高阶关系——例如，多个人格句子共享一个主题类别。我们提出HyPE（Hypergraph Persona Encoder，超图人格编码器），该框架：(i) 将每个含有人格信息的文本分析为*（核心，表达，情感，类别）*四元组，以及 (ii) 将人格元素组织成一个超图，其超边由共享的类别标签诱导产生。一个 HyperGCN 超图神经网络将此结构传播为人格摘要向量和一个软记忆库，进而条件化回复生成器。我们进一步提出持久边嵌入（Persistent Edge Embeddings，PEE），即轻量级的每类别可学习先验，融合到 HyperGCN 的消息传递步骤中。在采用贪心解码的 PersonaChat 数据集上，HyPE 在 GPT-2、LLaMA-3.2-3B 和 Qwen2.5-3B 骨干网络上一致优于句子级别池化基线，证明了结构化的超边级人格编码在不同模型规模下均具有可迁移的优势。¹¹该项目的源代码以匿名方式发布在 https://anonymous.4open.science/status/hyper-graph-F516

HyPE：基于类别感知的超图编码与持久边嵌入方法用于人格锚定对话

Sangwon Youn Yoonjin Jang Youngjoong Ko¹¹¹通讯作者。 韩国成均馆大学 \{mikeyoun2000, yoonjinjang98\}@gmail\.com, yjko@skku\.edu

## 1 引言

人格锚定对话系统旨在生成与说话者档案一致的回复，但主流范式——将语言模型条件化在人格句子的平铺序列上[Zhang 等人, 2018 (https://arxiv.org/html/2606.13142#bib.bib1)]——忽略了人格属性之间的高阶语义结构。例如，“我喜欢去山里徒步”和“我在户外最有活力”这两个句子共享一个生活方式类别，然而现有方法都没有显式表示这种共属关系。成对图方法可以捕获双边相似性[Tang 等人, 2023a (https://arxiv.org/html/2606.13142#bib.bib17)]，但无法表达多个句子同时共享一个语义属性的事实——而这正是超边所表示的内容。

我们提出 HyPE（Hypergraph Persona Encoder），该框架将含有人格信息的文本视为（核心、表达、情感、类别）四元组，并将人格元素组织成一个“超图”，其超边通过共享的类别标签将句子分组。一个 HyperGCN 超图神经网络 [Yadati 等人, 2019 (https://arxiv.org/html/2606.13142#bib.bib42)] 通过一个软记忆桥接模块将此结构传播到回复生成器中。我们进一步引入持久边嵌入（PEE）：轻量级的每类别可学习先验（约 1.3K 参数），融合到每个 HyperGCN 消息传递步骤中，使编码器能够根据不同语义类别的人格属性对超边聚合的贡献进行专业化处理。

我们的主要贡献如下：(1) 一种人格表示方法，将（核心、表达、情感、类别）四元组配对，以更好地捕获情感和类别信号；(2) 一种超图构建过程，通过诱导类别超边实现人格元素之间的多对多共属关系建模；(3) 一个 HyperGCN 编码器，通过编码器软记忆模块桥接到语言模型，将与上下文相关的人格摘要转换为固定大小的软提示；(4) 持久边嵌入（PEE），以极小的参数开销（约 1.3K）将类别特定的先验注入超边聚合过程；(5) 在 PersonaChat 上的全面实验表明，HyPE 在 LLaMA-3.2-3B、Qwen2.5-3B 和 GPT-2 骨干网络上均一致优于 HyPE-base。

## 2 相关工作

### 2.1 人格锚定对话生成

人格锚定对话生成沿着两个方向取得进展：人格如何“表示”以及如何“整合”到回复生成器中。自 PersonaChat [Zhang 等人, 2018 (https://arxiv.org/html/2606.13142#bib.bib1)] 以来，主流表示方式是 3-5 个句子组成的平铺集合，整合方法如 BoB [Song 等人, 2021 (https://arxiv.org/html/2606.13142#bib.bib3)]、ORIG [Chen 等人, 2023a (https://arxiv.org/html/2606.13142#bib.bib4)]、LMEDR [Chen 等人, 2023b (https://arxiv.org/html/2606.13142#bib.bib5)] 和 CLV [Tang 等人, 2023b (https://arxiv.org/html/2606.13142#bib.bib6)] 分别通过 NLI 监督、顺序不变性、记忆模块和对比潜变量改进了这一点。PeaCoK [Gao 等人, 2023 (https://arxiv.org/html/2606.13142#bib.bib7)] 用覆盖五个社会维度的常识知识图谱丰富了人格本身，我们采用其作为我们的类别分类体系（第 3.2.1 节 (https://arxiv.org/html/2606.13142#S3.SS2.SSS1)）。然而，所有这些工作都将人格视为文本或成对图；多对多共属关系——人格语义的自然单位——仍然未被建模。

### 2.2 结构化人格分析与方面四元组

我们的四元组表示连接了两个研究方向：“结构化人格提取”和“基于方面的情感分析”（ABSA）。GettingToKnowYou [Wu 等人, 2020 (https://arxiv.org/html/2606.13142#bib.bib8)] 从话语中提取（主语、关系、宾语）三元组，捕获了事实结构但缺乏情感或类别信号。在 ABSA 方面，ACOS [Cai 等人, 2021 (https://arxiv.org/html/2606.13142#bib.bib10)] 从评论中提取（方面、类别、观点、情感）四元组，DiaASQ [Li 等人, 2023 (https://arxiv.org/html/2606.13142#bib.bib11)] 从对话中提取（目标、方面、观点、情感）四元组。HyPE 统一了两条路线：我们在人格三元组的基础上扩展了情感和类别字段，然后用类别标签诱导超边，以捕获人格属性之间的共属依赖关系。

### 2.3 用于 NLP 的超图神经网络

超图神经网络通过允许每个超边连接任意数量的节点来泛化消息传递，为共属关系提供了自然的归纳偏置 [Feng 等人, 2019 (https://arxiv.org/html/2606.13142#bib.bib12); Yadati 等人, 2019 (https://arxiv.org/html/2606.13142#bib.bib42)]。在语言任务中，超图最近被应用于对话中的情感识别 [Zheng 等人, 2024 (https://arxiv.org/html/2606.13142#bib.bib14)]、文本属性超图的节点分类 [Bazaga 等人, 2024 (https://arxiv.org/html/2606.13142#bib.bib15)] 以及基于表格的大语言模型问答 [Huang 等人, 2025 (https://arxiv.org/html/2606.13142#bib.bib16)]。然而，人格锚定对话“生成”尚未纳入这一趋势：现有的图增强对话系统要么在具有成对边的外部知识图谱上进行操作 [Tang 等人, 2023a (https://arxiv.org/html/2606.13142#bib.bib17)]，要么使用 GNN 对平铺的人格集进行编码。据我们所知，HyPE 是第一个将人格锚定回复生成建模为在“人格超图”上进行消息传递的系统，其超边由类别标签而非外部知识源诱导产生。

## 3 方法论

参见图注 图 1：HyPE 框架：人格四元组提取 → 超图构建 → HyperGCN + PEE 编码 → 编码器软记忆注入到回复生成器。在本节中，我们介绍提出的框架 HyPE，它通过人格四元组分析和超图扩展进行人格锚定对话回复生成。如图 1 (https://arxiv.org/html/2606.13142#S3.F1) 所示，该框架包含三个主要阶段：(1) 人格分析，(2) 人格超图构建，以及 (3) 基于超图神经网络（HGNN）的个性化回复生成。

### 3.1 概述

给定说话者的人格属性句子集合 P = {p₁, p₂, …, pₙ} 和对话上下文 C，目标是生成与说话者人格一致的回复 r。与仅依赖静态人格句子的先前工作不同，我们的框架通过以下方式显式建模人格属性之间的高阶关系：(i) 将每个含有人格信息的句子分解为结构化的四元组，以及 (ii) 构建一个人格超图，其中共享的类别标签作为超边连接相关的人格元素。通过 HGNN 学习到的结构信息以人格摘要向量和更新后的单人节点嵌入的形式注入回复生成模型。

### 3.2 人格分析

#### 3.2.1 人格四元组定义

我们将人格四元组定义为四元素元组（核心，表达，情感，类别），以捕获含有人格信息话语的语义结构：

- **核心**：表示说话者提及的中心属性或目标。
- **表达**：表示说话者对核心的描述或意见。
- **情感**：表示人格信息的极性，取三个值之一：正面、负面或中性。
- **类别**：表示人格属性的类型，取五个值之一：特征、常规/习惯、目标/计划、经历或关系。我们采用 PeaCoK [Gao 等人, 2023 (https://arxiv.org/html/2606.13142#bib.bib7)] 中定义的分类体系。

虽然核心和表达保留了人格的命题内容，但情感和类别作为辅助属性，在更高层对人格进行抽象；类别为第 3.3 节 (https://arxiv.org/html/2606.13142#S3.SS3) 中引入的超边构建提供了基础。

#### 3.2.2 数据集构建与提取模型

我们在 PGDataset [Ribeiro 等人, 2023 (https://arxiv.org/html/2606.13142#bib.bib2)] 之上构建了一个带四元组标注的训练集，该数据集将 PersonaChat 话语与其基础档案句子对齐。我们使用四元组定义和三个少样本示例（附录 A (https://arxiv.org/html/2606.13142#A1)）提示 GPT-4o-mini；通过基于规则的过滤去除格式错误的输出。对 200 个采样四元组的人工验证确认了 84.5% 的精确匹配（Fleiss κ = 0.81 [Fleiss, 1971 (https://arxiv.org/html/2606.13142#bib.bib36)]；附录 B (https://arxiv.org/html/2606.13142#A2)）。

我们将提取任务公式化为序列到序列生成：给定话语 u，基于 T5 的模型 [Raffel 等人, 2020 (https://arxiv.org/html/2606.13142#bib.bib21)] 生成

y = [Core] c [Expression] e [Sentiment] s [Category] k。

在推理时，提取器统一应用于话语和档案句子，因此每个含有人格信息的文本都表示为一个四元组，用于超图构建。

### 3.3 人格超图构建

超图 G = (V, E) 通过允许每个超边 e ∈ E 连接任意数量的节点 v ∈ V 来泛化图。这使得超图特别适合于对人格信息进行建模，其中多个人格陈述可以共享一个单一的高级属性（例如，一个爱好类别），而成对边无法忠实地表达这一点。

##### 节点。

节点集 V 包含两种节点：(i) 档案-人格节点，每个对应数据集中预定义的人格句子；以及 (ii) 提取-人格节点，来源于话语，每个节点表示为其核心、表达和情感的拼接。

每个节点由从提取模型获得的四元组表示；拼接的核心、表达和情感序列作为句子变换器的输入，其 CLS 标记的隐藏向量作为每个节点的嵌入。此外，四元组的类别字段决定了节点属于哪个超边，这使得两种节点类型虽然表面粒度不同，但可以在超图中统一处理。

##### 超边。

超边集 E 包含类别超边（C:\{category\}）；每个超边由所有共享相同 PeaCoK 类别标签（五个值之一：特征、常规/习惯、目标/计划、经历、关系）的节点组成。

一个节点恰好属于一个类别超边，来自不同人格句子的节点在共享相同类别标签时被连接，从而在单一结构中实现多对多共属关系建模。此外，HyPE 引入了持久边嵌入（第 3.4 节 (https://arxiv.org/html/2606.13142#S3.SS4)），在类别超边聚合期间注入每类别可学习先验。

### 3.4 超图神经网络

为了在人格超图上传播信息，我们采用 HyperGCN [Yadati 等人, 2019 (https://arxiv.org/html/2606.13142#bib.bib42)]，它通过从超边关联结构导出一个加权图并应用基于拉普拉斯的传播，将图卷积推广到超图。

消息传递分为三个步骤。首先，每个节点 v 变换其特征 x_v 并向其所属于的每个超边 e 发送消息。其次，每个超边 e 聚合来自其成员节点的传入消息以产生边表示 m_e。第三，每个节点 v 接收来自其所有关联超边的聚合消息，将其与当前特征结合，并更新其表示。形式上，一层更新可以写作

m_e = φ({x_v : v ∈ e}), (2)
x_v' = ψ(x_v, {m_e : v ∈ e}), (3)

其中 φ 和 ψ 是可学习的聚合函数。经过 L 层后，初始节点嵌入 x_v^{(0)} 被更新为 x_v^{upd}，其中编码了节点自身的语义以及由共享类别标签诱导的高阶关系。

##### 持久边嵌入（PEE）。

为了进一步根据语义类别专业化超边表示，我们引入持久边嵌入（PEE）：一小部分可学习向量，用于表示每个 PeaCoK 类别标签（C:Characteristic, C:Experience, C:Goal/Plan, C:Relationship, C:Routine/Habit）。它们被融合到类别超边的聚合步骤中。形式上，让 e_init^{(t)} ∈ R^{d_h} 是类别超边类型 t 的持久嵌入。在节点到边消息聚合到 C:\ 超边后，边表示更新为：

m_e ← EdgeFuse([e_init^{(t)} ; m_e]), (4)

其中 EdgeFuse 是一个学习的线性投影，[· ; ·] 表示拼接。这在每个消息传递步骤引入了类别特定的先验，同时仅增加了约 1.3K 的额外参数。持久嵌入与模型其余部分联合优化。

### 3.5 个性化回复生成