fairness

这篇 arXiv 论文发现，语言模型在归责时表现出“女性都很美好”偏见：既对被评判的女性更宽容，也在行为影响到女性时作出严厉得多的判断。该结论基于四个模型对来自 r/AmItheAsshole 的 11,270 个反事实冲突情境的评判。

该论文证明，在为相互交叉的人口统计群体提供服务时，不考虑群体信息的推荐策略会产生线性遗憾，并提出了三种基于置信上界（UCB）、具有次线性遗憾保证且考虑群体信息的算法，在 Goodreads 和 BoardGameGeek 数据集上进行了评估。

提出了治理感知联邦学习框架GAFL，为多智能体AI系统在协作训练中加入证据验证、公平性评估、策略执行与防篡改审计日志，并在跨孤岛原型上验证了其对伪造证据与恶意更新的识别能力。

本文提出了“差异洗白”的概念，表明临床多智能体大语言模型团队并未消除人口统计偏见，而是将其延续到共识决策中；只有在审议过程中呈现并汇总反事实版本时，干预措施才会奏效。

一项针对医疗专业人员的问卷调查与访谈研究，探讨工作角色和视角如何影响他们对医疗机器学习系统中算法偏见成因、公平性标准及偏见缓解措施的看法，发现临床与行政岗位之间存在显著差异。

本文评估了基于编辑的同形异义字符和不可见字符水印技术在涵盖24种文字系统的40种语言变体中的跨语言公平性，发现移除分词器并不能消除不公平，因为水印容量差异的96%由文字系统而非资源水平决定。

本文改编了情境关联测试，表明 GPT-4o 在自我诊断提示中表现出带有性别偏向的 ADHD 亚型关联：显式人口统计学线索似乎会触发过度纠正，而隐式线索则揭示了模型的默认偏见。

本文探讨了在自动语音识别（ASR）中应用激活引导（activation steering）技术。研究发现，通过有监督优化引导向量，不仅能提升ASR的整体性能，还能改善不同性别、年龄和方言群体之间的人口统计学公平性，同时支持利用声学特征相似的说话者实现少样本或零样本适配。

AllenAI 推出 FairStress，一个衡量大模型决策中人口统计学公平性的基准，评估范围超越最终选择，测试对抗性论证在招聘、信贷和医疗等高风险领域中，使模型改变不同人口群体决策的容易程度。

本文介绍了校准式语言顺应对（CAP），这是一种偏好数据集，旨在奖励聊天模型在保留标准英语的同时匹配用户方言，并考察了在 10 个开放模型谱系中，SFT、DPO 和 RL 阶段如何改变模型顺应非正式方言线索的倾向。

本文提出 Plausibility-EFG，一种群体级别的差异度量指标，用于衡量仇恨言论检测中不同人口群体之间的解释合理性差距，并提出 Fair-REF，一种对抗性理由正则化策略，能够在保持分类性能的同时减少解释差异。

该论文提出了一个以用户为中心的审计框架，用于区分基准内容的贡献者（源用户）与评估结果所代表的群体（目标用户），并在16个评估资源上发现美国中心化惯例占据主导、文档中普遍存在源-目标用户语境差距，且评分指标会显著影响性能衡量。

本文调查了大语言模型中系统性的亲AI偏见，发现模型在咨询建议类查询中不成比例地推荐与AI相关的选项，高估AI相关工作的薪资，并且无论提示框架如何，"Artificial Intelligence（人工智能）"在模型内部表征中都占据异常中心的位置，其中闭源专有模型表现出更强的偏见。

阿姆斯特丹大学的一项研究将基于强化学习的多实例学习、对抗去偏和偏好条件化超网络相结合，用于学业风险学生预测。研究发现，公平性目标可以加入到可解释的 RL-MIL 流水线中，但仅凭偏好条件化无法实现性能与 Equalized Odds（机会均等）之间可控的权衡，原因是存在模式坍缩。

论文提出了集体偏见缓解（CBM）框架，通过微调模型行为以及在多样化的 LLM 之间进行知识共享来降低大语言模型的偏见，并采用 Debating 和 Committee 两种路由拓扑，在偏见缓解效果与推理成本之间取得平衡。

该论文表明，在语音大模型适配中，训练随机种子的变异性对人口统计学公平性差距的影响可能超过音频压缩方案的选择，因此仅基于单次运行的公平性报告是不可靠的。方差分解结果显示，Fair-Speech 数据集上的种族差距差异中有 85.3% 可归因于种子效应，且即使扩大适配数据规模，这些效应依然存在。

本文提出了 Fable，一个受控数据集，包含从 174K 条真实用户提示中衍生出的 190,911 条英语提示变体。研究对 34 个开源权重的大语言模型进行了评估，结果表明，模型会反映出非母语者提示中更高级的修辞与词汇特征，从而为语言表达能力较弱的用户生成质量更低、流畅性更差的回答。

蒙特利尔高等商学院（HEC Montréal）与MILA的一篇论文提出了针对主-次弱耦合马尔可夫决策过程的公平策略优化方法，以单调凹公平函数取代功利主义目标，并引入一种基于计数比例的深度强化学习方法，其中包含基于优先级的采样器，该方法在机器置换任务以及纽约市出租车定价与调度任务上得到了验证。

研究显示，推理语言模型中的思维对反事实公平性具有不对称的双重影响：它解决了一些偏见但创造了更多偏见，后者在不同模型和数据集上约为前者的五倍。

本文介绍了Inquesto Score，一种针对语音代理的可靠性协议，它通过定义失败事件和严重性级别来衡量交互成功，并提供了行为诊断视图和声学鲁棒性分析。