基于双阈值难例挖掘的跨平台中文攻击性评论检测

# 跨平台中文攻击性评论检测的双阈值难例挖掘方法
来源: https://arxiv.org/html/2606.27629
Ruixing RenİD (https://orcid.org/0009-0000-1183-9512), Junhui ZhaoİD (https://orcid.org/0000-0001-5958-6622), , and Fangfang Wang通讯作者：Junhui Zhao。Ruixing Ren、Junhui Zhao 和 Fangfang Wang 来自北京交通大学电子信息工程学院，北京 100044，中国。(电子邮箱: [email protected]; [email protected]; [email protected])

###### 摘要

中文社交媒体攻击性评论检测在跨平台部署时会出现性能下降。本文提出一种双阈值难例挖掘方法来解决该问题。首先，在 COLD 数据集上微调 clean-Chinese-base RoBERTa，建立用于公平比较的二元基线。其次，构建一个覆盖微博、小红书、贴吧和知乎的三分类细粒度标注测试集，利用 Jaccard 和 Proxy-A Distance 量化各平台与源域的领域距离，并系统揭示基线下领域漂移的性能退化瓶颈。在此框架下，提出一种双阈值难例挖掘策略。通过预测置信度从未标注语料中筛选出高置信度和低置信度的易错样本。模型在隐式语境下仅使用少量人工标注的难例进行二次微调，实现低成本的跨平台领域自适应。实验表明，优化后的模型在四个平台上均取得了显著的性能提升。

## I 引言

在线社交平台的蓬勃发展促进了网民的自由表达和信息共享，但也滋生了大量攻击性、侵略性和仇恨言论[17 (https://arxiv.org/html/2606.27629#bib.bib6),22 (https://arxiv.org/html/2606.27629#bib.bib5)]。此类内容破坏了健康的网络生态，并引发群体极化、心理伤害等现实社会问题[15 (https://arxiv.org/html/2606.27629#bib.bib2)]。中文社交媒体攻击性评论的自动检测是网络内容治理和自然语言处理领域亟待研究的课题。

早期研究大多依赖词典匹配或传统机器学习，使用人工构建的敏感词典、TF-IDF 和 n-gram 浅层特征进行判别。尽管计算效率高，但此类方法无法识别中文语境中的隐式攻击，包括反讽、隐喻和基于文字游戏的讽刺[13 (https://arxiv.org/html/2606.27629#bib.bib3)]。以 BERT 和 RoBERTa 为代表的预训练语言模型通过双向 Transformer 架构捕获深层上下文语义，为攻击性检测提供了新的技术路线[7 (https://arxiv.org/html/2606.27629#bib.bib4)]。现有的基准数据集如 COLD 支持中文场景，但大多局限于单一平台和静态数据分布，忽略了模型在跨平台和跨时间领域的泛化能力[4 (https://arxiv.org/html/2606.27629#bib.bib7)]。

不同社交平台在用户群体、语言风格和社区行话上差异巨大，导致源域模型迁移到新平台时性能严重下降[11 (https://arxiv.org/html/2606.27629#bib.bib1)]。这种退化源于语言风格的领域漂移，以及隐式攻击的强上下文依赖性和主观标注歧义性。因此，如何在保持源域检测性能的同时，以低成本增强模型对异构多平台语境的适应能力，是紧迫的工程和科学挑战。

为应对这些挑战，我们基于 chinese-roberta-wwm-ext 在公开 COLD 数据集上构建了攻击性评论检测的二元基线，验证了预训练加微调的范式。主要贡献总结如下。

- • 构建了一个覆盖四个平台的细粒度三分类跨平台评估数据集，并揭示了基线在领域漂移下的核心退化瓶颈。
- • 提出了一种结合双阈值难例筛选和隐式上下文微调的轻量级领域自适应方案，显著提升了多平台泛化性能。
- • 通过消融实验证明，在相同标注预算下，难例挖掘优于随机采样，验证了样本难度而非数量主导了微调效果。

本文其余部分组织如下。相关研究在第二节 (https://arxiv.org/html/2606.27629#S2) 中回顾。基线模型构建与实验在第三节 (https://arxiv.org/html/2606.27629#S3) 中详细阐述。跨平台评估与优化策略在第四节 (https://arxiv.org/html/2606.27629#S4) 中讨论。最后，总结并展望未来研究方向。

## II 相关工作

随着数据资源和建模方法的演进，中文攻击性语言检测研究不断取得进展。

### II-A 中文攻击性语言检测的数据集与方法

早期中文攻击性内容检测方法大多基于人工构建的敏感词典和规则匹配策略。文献[12 (https://arxiv.org/html/2606.27629#bib.bib8)] 提出了一种针对脏话的检测与改写系统，采用人工设计规则识别并改写常见的脏话表达。这类方法计算效率高，但严重依赖词典覆盖率，泛化能力差。随后，研究者引入了传统机器学习和深度学习方法。Zhang 等人[18 (https://arxiv.org/html/2606.27629#bib.bib9)] 提出了一种融合字级和词级特征的混合 CNN-Bi-GRU 模型，以减轻分词错误对短文本语义理解的影响。

预训练语言模型的出现显著推动了该领域的发展。Deng 等人[4 (https://arxiv.org/html/2606.27629#bib.bib7)] 构建了中文攻击性语言检测基准 COLD。该数据集的数据来自知乎和微博，涵盖种族、性别和地区三个主题，并基于 bert-base-chinese 微调得到了名为 COLDetector 的检测器。Lu 等人[9 (https://arxiv.org/html/2606.27629#bib.bib10)] 进一步提出了 ToxiCN。该数据集样本来自知乎和百度贴吧，建立了一个区分一般攻击性内容与仇恨言论的层次化标注框架，并增强了对隐式及间接表达形式的覆盖。后续研究基于 COLD 等资源不断改进建模方法。Li 等人[8 (https://arxiv.org/html/2606.27629#bib.bib11)] 提出了一种整合字符、词语和句子特征的三级特征融合模型，以提升对复杂语义攻击文本的识别能力。Hou 等人[6 (https://arxiv.org/html/2606.27629#bib.bib12)] 将 RoBERTa 与指针网络相结合，聚焦于攻击相关的关键片段。Cao 等人[2 (https://arxiv.org/html/2606.27629#bib.bib13)] 提出了一种融合 BERT 和主题模型的双通道方法，同时捕获语义和主题特征。这些研究验证了大规模预训练加下游微调范式在中文攻击性检测中的有效性。本文的基线模型也遵循了这一范式。

### II-B 隐式攻击与语境依赖型攻击的识别

与包含显式辱骂词的攻击不同，隐式攻击通过反讽、隐喻、谐音等方式伪装。其字面表达不包含违规词汇，但隐含强烈攻击意图，由此造成检测的主要难点。大量现有研究致力于反讽检测的语料库构建和语言模式建模。早期研究完成了传统中文反讽语料库的构建和反讽结构分析[14 (https://arxiv.org/html/2606.27629#bib.bib14)]。随后提出了融合语言特征的神经网络方法[10 (https://arxiv.org/html/2606.27629#bib.bib15)]。进一步开发了强调上下文信息的回溯阅读模型和融合新闻背景的讽刺识别方法[19 (https://arxiv.org/html/2606.27629#bib.bib16)][5 (https://arxiv.org/html/2606.27629#bib.bib17)]。所有这些工作都表明，隐式表达的识别高度依赖上下文建模。近期研究构建了多领域中文隐式仇恨数据集 MCIHD[20 (https://arxiv.org/html/2606.27629#bib.bib18)]，并提出了面向隐式仇恨和委婉表达的领域增强提示学习。针对隐喻、谐音、字形变形等规避方法，专门设计了面向有害委婉语的 TE-Dataset 及其对比学习框架[21 (https://arxiv.org/html/2606.27629#bib.bib19)]。这些研究均表明，识别隐式攻击需要超越关键词匹配，深入挖掘上下文和语义关联。这与本文通过难例挖掘加强隐式上下文建模的动机是一致的。

### II-C 跨平台泛化与模型鲁棒性

在实际部署中，模型常面临数据分布与训练数据不同的目标平台，因此其泛化能力和鲁棒性受到研究者关注。一类工作通过数据增强提升泛化性能。文献[3 (https://arxiv.org/html/2606.27629#bib.bib20)] 构建了百万级无监督数据集 AugCOLD，并提出了多教师蒸馏框架，显著扩展了包括隐式攻击和报复性言论在内的难例覆盖范围，从而增强了检测器的鲁棒性。另一条研究路线聚焦于反规避鲁棒性评估。ToxiCloakCN[16 (https://arxiv.org/html/2606.27629#bib.bib21)] 通过谐音替换和表情符号替换构建扰动样本。CangjieToxi[1 (https://arxiv.org/html/2606.27629#bib.bib22)] 引入了字符拆分、偏旁替换等结构扰动。两项数据集均发现现有模型在扰动样本上性能显著下降，且难以理解与文化背景相关的隐式攻击。这些研究揭示了在源域训练的模型在分布漂移下的脆弱性。然而，大多数改进依赖于大规模数据增强或针对特定扰动类型的优化。现有工作很少系统量化真实多平台场景下的领域差距，并以最小标注成本实现目标平台自适应。

### II-D 本文工作的定位

现有研究在数据资源、隐式攻击建模和鲁棒性评估方面取得了显著进展。然而，仍存在三个不足：首先，大多数工作仅在单一平台或静态分布上进行评估，缺乏对真实世界跨平台领域漂移的系统量化。其次，尽管隐式攻击已引起广泛关注，但对其在跨平台迁移中失败机制的详细诊断尚属空白。第三，大多数提升鲁棒性的方案依赖大规模数据增强，带来了高昂的标注成本。

为解决这些局限，本文构建了一个覆盖四个平台、包含三分类类别的跨平台评估数据集，量化了每个平台与源域 COLD 之间的领域距离。同时，提出了一种基于双阈值难例采样的轻量级领域自适应方法，以极小的标注预算有针对性地提升跨平台隐式攻击的识别性能。

## III 基于 RoBERTa 的中文攻击性评论检测基线模型构建

为获得无偏且公平可比的微调结果，采用干净的 Chinese 预训练主干 chinese-roberta-wwm-ext。在 COLD 训练集上从头开始使用二元交叉熵损失进行微调，从而得到基线检测器。

表 I: COLD 数据集样本统计
| 数据集子集 | 攻击样本 | 正常样本 | 总计 |
|------------|----------|----------|------|
| 训练       | 12723    | 13003    | 25726 |
| 验证       | 3211     | 3220     | 6431 |
| 测试       | 2107     | 3216     | 5323 |
| 总计       | 18041    | 19439    | 37480 |

### III-A 实验数据集的选择与处理

选取 COLD[4 (https://arxiv.org/html/2606.27629#bib.bib7)] 作为核心实验数据。该数据集专为中文网络中的有害、攻击性和恶意言论构建，覆盖知乎和微博等主流社交平台，并包含种族、性别和地区等争议性话题，有利于促进模型获得更好的泛化能力。COLD 数据集各子集的样本分布如表 I (https://arxiv.org/html/2606.27629#S3.T1) 所示。

### III-B 文本预处理与向量化

给定原始文本序列 SS，首先执行正则表达式清洗。仅保留 Unicode 范围 [∖\\setminusu4e00,∖\\setminusu9fa5] 内的汉字字符，同时去除标点符号、符号、数字和外文等无关字符。清洗后的纯汉字字符序列定义为：

$$
S_{\text{cleaned}} = f_{\text{regex}}(S) = \{c \mid c \in S, c \in [\u4e00,\u9fa5]\}
$$

(1)

随后，通过基于前缀词典和隐马尔可夫模型的分词算子 Cut(⋅) 对清洗后的字符串进行分词，得到离散分词集合 WW：

$$
W = \{w_1, w_2, \dots, w_n\} = \mathrm{Cut}(S_{\mathrm{cleaned}})
$$

(2)

进一步进行停用词去除，其中 VstopV_{\text{stop}} 表示预定义的中文停用词集。对分词集合 WW 进行双重过滤：丢弃停用词和长度 ≤1\leq 1 的单字词。保留满足 w∉Vstop∧Length(w)>1w \notin V_{\mathrm{stop}} \land \mathrm{Length}(w) > 1 的词，形成最终有效特征序列：

$$
W_{\mathrm{final}} = \{w \in W \mid w \notin V_{\mathrm{stop}} \land \mathrm{Length}(w) > 1\}
$$

(3)

采用指示函数 I(⋅)\mathbf{I}(\cdot) 统计每个词 ww 在 WfinalW_{\text{final}} 中出现的频率，指示函数满足：

$$
\mathbf{I}(A) = 
\begin{cases}
1, & \text{if condition } A \text{ holds} \\
0, & \text{if condition } A \text{ does not hold}
\end{cases}
$$

(4)

词汇 ww 的词频计算公式为：

$$
\mathrm{TF}(w) = \sum_{i=1}^{|W_{\mathrm{final}}|} \mathbf{I}(W_{\mathrm{fina}}