标签
研究者提出一个基于理论框架的基准数据集，用于自动检测在线新闻和社交媒体中的精神健康污名，并评估了大语言模型及毒性/情感分类器的表现。结果表明，相邻构念难以有效捕捉污名特征，且除非提供明确的操作化规则，大语言模型会过度预测污名。
本文提出一种新的范围条件生成框架，该框架将结构化刻板印象特征整合到大型语言模型提示中，以实现有效的多语言反驳言论，并在一个由人工整理的数据集上验证，显示在事实性和有效性方面有显著提升。
一个用于生成、优化和评估反叙事以对抗仇恨言论和错误信息的多阶段代理框架，人类验证显示其在说服力和安全性上优于专家撰写的反言论。
一项针对监控网络仇恨言论的非公民技术研究人员的美国移民政策正面临法律挑战，法院裁决引发了上诉以及关于言论自由和驱逐威胁的辩论。
Elon Musk 批评 AOC 发布的误导性帖子，引用 Grok 的分析称，2026 年大多数案件被官方裁定为自杀，无不当行为证据。
本文评估了基于检索的上下文内学习方法，用于检测德国社交媒体帖子中与犯罪相关的仇恨言论，发现少样本提示优于零样本，但检索方法仅提供边际增益，模型更适合用于分诊而非自主审核。
本文介绍了CHARM，一个整合心理构念以提升性能的道德基础检测框架，展示了改进的跨域泛化能力及其在COVID-19话语中的应用。
本文研究了基于LLM的仇恨言论审核对注释者风格反驳的敏感性，表明此类攻击会降低性能，并揭示了漂白和抹黑操作之间的方向性不对称。
本文介绍了 AHA-Memes，这是首个具有细粒度多标签注释的大规模阿拉伯语仇恨迷因基准，包含 5K 条人工注释和约 66K 条银标签迷因，并评测了多种多模态模型在基于文化的仇恨检测中的表现。
本文介绍了一种用于模因中多模态性别歧视检测的层次化框架，该框架利用冻结的Gemini Embedding 2表示和轻量级门控MLP对标注者分歧进行建模，在EXIST 2026的细粒度性别歧视分类任务中取得了第一名。
介绍了针对土耳其语和阿拉伯语的全面仇恨言论数据集，并开发了基于BERT的最先进模型，用于仇恨言论分析，包括分类、强度预测、目标识别和跨度检测。
本文发现，HateXplain中42.6%的标注者分歧集中在仇恨/冒犯边界，表明多数票压制了少数价值观，导致模型对有争议的输入输出错误但高度自信的预测。
本文研究了Bluesky上的仇恨言论级联，并使用多LLM代理进行模拟，发现此类模拟再现了立场单一文化和毒性增量方向等关键模式，且在密集网络上进行放大器定位可使仇恨内容减少7.5%–12.9%，且良性副作用较低。
数字仇恨对抗中心（CCDH）的一份新报告显示，Meta放宽内容审核规则后，针对政治人物的种族歧视言论增加了三倍，暴力威胁和仇恨言论增加了四倍，欺凌行为增加了一倍。
来自Center for Countering Digital Hate的新研究显示，在Meta于2025年初放宽言论规则的六个月内，Facebook上针对美国国会议员的辱骂评论、暴力威胁和仇恨言论增加了三到四倍。
埃隆·马斯克强调了Grok对一位用户的回复，该用户复制了Gemini对比利时仇恨言论定罪的解读，并要求Grok进行回应。
本文研究在仇恨言论与错误信息同时出现时，利用大型语言模型辅助专家撰写反言论，通过人工评估测试了知识驱动策略。结合事实核查员与非政府组织指南的混合策略被证明最为有效。
这项复制研究评估了DExperts在缓解LLM毒性方面的效果，发现其对显式毒性几乎完美安全，但对隐式仇恨言论效果降低，并且存在显著的延迟权衡。
# 懂的都懂（但AI不懂）：自动内容审核未能捕捉社群对去污名化用语的多元态度 来源：[https://arxiv.org/html/2604.16654](https://arxiv.org/html/2604.16654) Christina Chance [christinachance315@gmail\.com](https://arxiv.org/html/2604.16654v1/mailto:[email protected]) [0000\-0002\-8254\-0670](https://orcid.org/0000-0002-8254-0670) 加州大学洛杉矶分校 洛杉矶 加利福尼亚州 美国 Rebecca Pattichis 独立研究员 Alb