Team MKC 在 CLPsych 2026：通过社交媒体时间线动态捕捉和表征心理健康变化

# Team MKC 在 CLPsych 2026：通过社交媒体时间线动态捕捉与刻画心理健康变化
来源：https://arxiv.org/html/2606.31464
Kyomin Hwang Hyeonjin Kim11footnotemark:1Hyunho Lee11footnotemark:1Nojun Kwak 首尔大学，首尔，韩国 \{kyomin98, peaceful1, hhlee822, nojunk\}@snu\.ac\.kr

###### 摘要

大语言模型 (LLM) 的最新进展推动了它们在包括心理健康人工智能 (AI) 在内的广泛领域的应用。鉴于全球心理健康障碍的日益普遍以及专业护理的可及性有限，对能够协助早期发现和持续监测心理健康的可扩展计算方法的需求日益增长。在该领域，持续的努力集中在整理特定领域的数据集，并利用它们来开发能够支持全面心理健康分析的 LLM。与此方向一致，作为 CLPsych 共享任务的一部分，我们提出了一种基于 LLM 的流程，用于对按顺序排序的用户帖子进行全面的心理健康分析。我们的流程提供了一个统一的框架，能够同时实现帖子级别的评估和用户级别的时间建模。

Team MKC 在 CLPsych 2026：通过社交媒体时间线动态捕捉与刻画心理健康变化

Kyomin Hwang††感谢：同等贡献。Hyeonjin Kim11footnotemark:1Hyunho Lee11footnotemark:1Nojun Kwak††通讯作者。首尔大学，首尔，韩国 \{kyomin98, peaceful1, hhlee822, nojunk\}@snu\.ac\.kr

## 1 引言

数据收集和计算能力的最新进展使得能够开发出作为通用 AI 系统执行广泛任务的大语言模型 (LLM) (Brown 等人，2020 (https://arxiv.org/html/2606.31464#bib.bib16))。通用 LLM，如 GPT (Achiam 等人，2023 (https://arxiv.org/html/2606.31464#bib.bib9)) 和 Claude (Anthropic，2025 (https://arxiv.org/html/2606.31464#bib.bib11))，在从自然语言理解到复杂推理和代码生成的各个领域展现出卓越的通用性。这些模型在涵盖网络文本、科学文献和源代码的海量语料库上进行训练，获得了广泛的世界知识，并且能够以最少的任务特定监督泛化到新任务 (Kaplan 等人，2020 (https://arxiv.org/html/2606.31464#bib.bib33)；Kim 等人，2024 (https://arxiv.org/html/2606.31464#bib.bib31)；Radford 等人，2019 (https://arxiv.org/html/2606.31464#bib.bib32))。随着 LLM 能力的不断扩展，将这些模型应用于专业领域（如医学、法律和科学发现）的兴趣日益浓厚 (Xie 等人，2023 (https://arxiv.org/html/2606.31464#bib.bib14)；Hwang 和 Kwak，2026 (https://arxiv.org/html/2606.31464#bib.bib12)；Colombo 等人，2024 (https://arxiv.org/html/2606.31464#bib.bib13))。

作为这些进展的一部分，已经有人尝试将 LLM 应用于临床心理学。然而，早期的尝试遇到一个关键的瓶颈：训练数据的稀缺，这主要源于对敏感个人信息的隐私担忧。为了解决这一限制，Tsakalidis 等人 (2022b (https://arxiv.org/html/2606.31464#bib.bib8)) 发布了一个数据集，同时引入了一项新任务：识别变化时刻——用户情绪变化变得可观察的时间点。越来越多的后续工作利用这一资源来制定一系列旨在更广泛地应用 LLM 于心理健康的任务，并提出了解决这些任务的方法 (Ali 等人，2026 (https://arxiv.org/html/2606.31464#bib.bib18)；Tseriotou 等人，2025 (https://arxiv.org/html/2606.31464#bib.bib19)；Atzil-Slonim，2026 (https://arxiv.org/html/2606.31464#bib.bib17)；Tsakalidis 等人，2022a (https://arxiv.org/html/2606.31464#bib.bib20))。

在这些进展的基础上，我们提出了一个用于心理健康分析的基于 LLM 的流程，该流程是为 CLPsych 2026 共享任务 (Ali 等人，2026 (https://arxiv.org/html/2606.31464#bib.bib18)) 开发的，该任务利用了 Tsakalidis 等人 (2022b (https://arxiv.org/html/2606.31464#bib.bib8)) 引入的数据集的一部分。具体来说，我们的流程处理五个相互关联的任务：1) 在帖子级别评估用户的心理状态；2) 估计每种心理状态在用户发帖历史中的存在率；3) 在按时间顺序排列的用户帖子序列中识别变化时刻；4) 总结在这些序列中观察到的变化事件；以及 5) 检测随时间推移的改善和恶化模式并提取其典型特征。我们的流程将这些任务整合处理，涵盖帖子级别评估、用户级别聚合以及心理状态动态的时间建模。

## 2 方法

在本节中，我们提出一个框架，用于检测个体在按时间顺序排列的社交媒体帖子序列中其心理状态和幸福感如何演变。所提出的框架由五个部分组成：1) 帖子级别的 ABCD 元素和自我状态识别，2) 自我状态存在率评分，3) 变化时刻 (MOC) 识别，4) 变化事件周围序列的总结，以及 5) 跨时间线识别变化的循环动态特征。在以下小节中，我们详细描述用于处理每个部分的方法。

### 2.1 步骤 1

第一步是在帖子级别分类 ABCD 子元素 (Atzil-Slonim，2025 (https://arxiv.org/html/2606.31464#bib.bib25)) 和自我状态。自我状态分为两种类型，适应性和非适应性，每种类型包含六个子维度。每个帖子在每个子维度中被分类为子维度特定标签集中的一个值，其中 `None` 始终作为一个有效选项。这为每个帖子产生了 12 个独立的分类目标，其中候选标签的数量和语义因子维度而异，而 `None` 选项在所有目标中始终保持可用。

为了解决多目标分类问题，我们使用 Qwen3-4B-Embedding (Qwen Embed) (Zhang 等人，2025 (https://arxiv.org/html/2606.31464#bib.bib26)) 作为特征提取器，并通过 LoRA (Hu 等人，2022 (https://arxiv.org/html/2606.31464#bib.bib28)) 对其进行微调。模型被输入一个精心设计的提示，如图 1 (https://arxiv.org/html/2606.31464#A1.F1) 所示。生成的嵌入被传递到 12 个独立的分类器，每个分类器都使用交叉熵损失进行训练以处理其各自的子维度。

一个核心挑战是训练数据集中严重的类别不平衡，这会导致朴素训练偏向多数类。我们通过两种互补的方式来解决这个问题。首先，我们对交叉熵损失应用逆频率加权，为每个类别分配一个与其频率成反比的权重。为了防止极端不平衡放大稀有类别的权重并导致训练不稳定，我们将所有权重裁剪到最大 10。其次，由于在这种不平衡下仅使用一部分训练数据可能会为少数类别学习不充分的表示，我们采用 5 折交叉验证策略，在每折上训练一个单独的模型，并将五个模型进行集成以获得最终预测。

### 2.2 步骤 2

第二步建立在步骤 1 的输出之上，重点是为每个自我状态预测一个数值分数。两种自我状态，适应性和非适应性，各自关联一个 5 点李克特量表分数。步骤 2 的目标是单独预测这两个分数。

对于这一步，我们为每个自我状态引入一个专用的预测器，该预测器从步骤 1 中特征提取器生成的嵌入中回归出一个单一的标量值。每个预测器使用加权 Huber 损失 (Huber，1964 (https://arxiv.org/html/2606.31464#bib.bib29)) 进行训练，其中每个样本的权重源自训练集中每个分数区间（分数 1-5）的逆频率，确保在优化过程中，代表性不足的分数水平获得成比例的更大重视。模型输出通过将最终线性层的 logit 通过 sigmoid 激活并线性缩放到目标范围 [1, 5] 来生成。我们采用与步骤 1 相同的 5 折交叉验证策略，每折训练一个单独的模型，并集成它们以获得最终预测。使用的提示在 图 2 (https://arxiv.org/html/2606.31464#A1.F2) 中。

### 2.3 步骤 3

在第三步中，我们处理从时间排序的帖子序列中检测两种不同类型转换的任务：1) Switch，两个连续帖子之间幸福感的实质性和突然变化，以及 2) Escalation，在连续帖子序列中情绪的逐渐加剧。我们将这一步公式化为两种类型的二分类问题。

我们使用 LoRA 微调 Qwen Embed，附加两个独立线性分类器分别用于 Switch 和 Escalation，每个分类器都专门针对其各自的转换模式进行训练。模型在一个大小为 2 的滑动窗口上操作，以时间步 `t-1` 和 `t` 的帖子作为输入，预测在时间 `t` 是否发生 Switch 或 Escalation。这种设计反映了每个任务固有的局部时间依赖性，特别是对于在连续帖子对上定义的 Switch。

为了解决类别不平衡，我们采用带有自适应类别权重的二元交叉熵损失，其中每个标签的损失权重设置为其在训练集中频率的倒数。考虑到在这种不平衡下单折训练可能无法为少数类别学习充分的表示，我们采用 5 折交叉验证策略，在每折上训练一个单独的模型，并集成五个预测以获得最终输出。此步骤中使用的提示显示在图 3 (https://arxiv.org/html/2606.31464#A1.F3) 中。

### 2.4 步骤 4

在第四步中，给定一个包含其关联信息（例如，子元素和自我状态）的帖子序列，目标是生成整个序列的摘要。为此，我们使用 LoRA 对 Qwen3-4B-Instruct-2507 (Yang 等人，2025 (https://arxiv.org/html/2606.31464#bib.bib27)) 和 Qwen3.5-4B (Qwen Team，2026 (https://arxiv.org/html/2606.31464#bib.bib30)) 进行有监督微调。在训练期间，我们提供每个帖子的真实标签作为输入，而在推理时，我们依赖步骤 1、2 和 3 中训练的模型产生的预测，从而如实反映实际流程设置。此步骤中使用的提示在 图 4 (https://arxiv.org/html/2606.31464#A1.F4) 和 图 5 (https://arxiv.org/html/2606.31464#A1.F5) 中提供。

### 2.5 步骤 5

作为最后一步，基于 MIND (ABCD) 框架和自我状态结构，我们分析自我状态组件如何在变化事件周围的序列中相互作用和演变，目的是识别和总结在个体间反复出现的心理恶化和改善的动态模式。为此，我们通过提示 Qwen3.5-9B (Qwen Team，2026 (https://arxiv.org/html/2606.31464#bib.bib30)) 以零样本方式执行此分析。提示在图 6 (https://arxiv.org/html/2606.31464#A1.F6) 和图 7 (https://arxiv.org/html/2606.31464#A1.F7) 中提供。一次性将所有给定的摘要连接作为模型输入会导致内存不足错误。我们通过首先将给定的序列分成组，从每组中提取改善和恶化特征，最后总结这些特征来绕过此错误。

## 3 实验

### 3.1 实验设置

在本节中，我们描述每个步骤所使用的实验设置。对于步骤 1、2 和 3，我们使用 Qwen Embed 作为骨干模型并使用 LoRA 进行微调，其中秩 `r=16`，缩放因子 `α=32`。学习率设置为 `1×10^{-5}`，并且 K 折交叉验证策略（K=5）一致地应用于所有三个步骤。最大输入 token 长度设置为 786，批量大小为 16，所有模型训练 30 个 epoch。所有实验在单个 NVIDIA RTX A6000 GPU 上进行，所有实验的随机种子固定为 42。训练单折大约需要步骤 1 耗时 42 分钟，步骤 2 耗时 15 分钟，K 折集成大约线性扩展。对于步骤 4 的 SFT，我们使用秩 `r=8` 和缩放因子 `α=16` 的 LoRA，并将适配器附加到所有线性层。使用 2e-4 的学习率、8 的批量大小进行训练，共 10 个 epoch。

步骤 1 步骤 2
自适应 K 折 宏观 F1 (↑) RMSE (↓)
× 无 0.232 0.784
- 平均 0.210 0.677
- 投票 0.210 0.612
✓ 无 0.333 0.777
- 平均 0.312 0.685
- 投票 0.332 0.700
表 1：步骤 1 和步骤 2 在验证集上的结果。`自适应` 表示是否对分类损失应用了类别级自适应加权。对于 K 折，“无”表示未使用 K 折训练的单个模型，“平均”表示在选择最终预测之前聚合集成模型的 logit 并取平均，“投票”表示通过多数投票确定最终预测。

任务 自适应 K 折 分数
步骤 1 (F1↑) ✓ 无 0.320
- ✓ 平均 0.361
步骤 2 (RMSE↓) ✓ 无 1.044
- × 平均 1.010
- × 投票 1.003
表 2：步骤 1 和步骤 2 的测试集结果。其他约定遵循 表 1 (https://arxiv.org/html/2606.31464#S3.T1)。

### 3.2 结果

##### 步骤 1 和步骤 2 的性能：

在测试集评估之前，我们以 80/20 的比例将完整训练数据随机划分为训练集和验证集。表 1 (https://arxiv.org/html/2606.31464#S3.T1) 报告了在保留验证集上的子元素平均宏观 F1（步骤 1）和 RMSE（步骤 2）。对于步骤 1 和步骤 2，我们考察两个设计因素：i) 是否对分类损失应用自适应加权（由 `自适应` 列表示），以及 ii) K 折聚合策略。

对于**步骤 1**，在所有 K 折配置下，自适应加权始终优于其非加权对应项，这表明自适应加权有效缓解了标签分布中固有的类别不平衡（表 1 (https://arxiv.org/html/2606.31464#S3.T1)）。相比之下，一旦应用了自适应加权，K 折聚合策略（平均或多数投票）相对于自适应加权本身带来的增益，其差异仅微不足道（表 1 (https://arxiv.org/html/2606.31464#S3.T1)）。然而，当这些 K 折策略应用于测试集时（表 2 (https://arxiv.org/html/2606.31464#S3.T2)），集成相对于单模型基线提供了明显的改进。我们推测这种差异源于数据利用的不同：单模型设置（K 折 = 无）仅使用 80% 的训练数据进行训练（因为其余 20% 留作模型选择），而 K 折集成在其所有折中利用了整个训练集，因此在测试集上具有更好的泛化能力。

对于**步骤 2**，我们观察到禁用自适应加权会产生更强的验证性能（表 1 (https://arxiv.org/html/2606.31464#S3.T1)）。这一趋势在测试集上也得到了保持（表 2 (https://arxiv.org/html/2606.31464#S3.T2)），未加权配置再次优于其加权对应项。然而，与验证结果的一个显著差异是，在测试时，K 折聚合在两种聚合策略下都产生了一致的收益。