FairSelect：多层级与交叉性算法公平性的系统评估

arXiv cs.LG 论文
algorithmic-fairness intersectional-fairness bias-mitigation machine-learning toolkit evaluation

摘要

FairSelect是一个工具包，用于系统评估预处理、处理中及后处理阶段的公平性缓解策略，支持交叉性子群评估以及公平性与效用权衡的比较。

arXiv:2607.08953v1 公告类型：新提交 摘要：算法公平性方法日益被用于识别和减轻机器学习模型中的偏见，但大多数方法是在隔离条件下、沿单一人口统计轴进行评估。这限制了选择公平性策略的实用指导，因为差异可能出现在交叉性子群之间以及建模生命周期的多个阶段。本文介绍了FairSelect，一个用于系统评估公平性缓解策略的工具包，这些策略可单独应用或在预处理、处理中及后处理阶段组合应用。FairSelect支持多种模型架构、交叉性子群评估以及基线、单一方法和多层级配置之间公平性效用权衡的比较。该框架使用模拟临床数据集（旨在代表特定的偏见机制）以及真实世界中房颤患者两年卒中风险预测的复现进行了验证。模拟实验表明，有针对性的公平性方法通常能减少目标子群的差异，而组合策略则能带来更大的平均公平性改进，同时只有适度的效用权衡。在临床预测任务中，缓解效果高度可变，有些组合既提高了公平性也提升了预测性能，而其他组合则无效甚至适得其反。这些发现表明，公平性干预之间存在非加性和依赖于上下文的交互作用。FairSelect提供了一个实用框架，用于系统识别能够改善子群公平性同时保留临床机器学习中模型性能的公平性策略。
查看原文
查看缓存全文

缓存时间: 2026/07/13 07:56 

# FairSelect：多层次与交叉性算法公平性的系统评估
来源：https://arxiv.org/abs/2607.08953
查看PDF（https://arxiv.org/pdf/2607.08953）

> 摘要：算法公平性方法日益被用于识别和缓解机器学习模型中的偏差，但大多数方法仅在孤立环境下沿单一人口统计学维度进行评估。这限制了选择公平性策略时的实用指导，因为差异可能出现在交叉子群体以及建模生命周期的多个阶段。本文提出了FairSelect，一个用于系统评估公平性缓解策略的工具包，这些策略可单独应用或在预处理、处理中和后处理阶段组合应用。FairSelect支持多种模型架构、交叉子群体评估，以及基线、单一方法和多层级配置之间的公平性-效用权衡比较。该框架利用旨在代表特定偏差机制的合成临床数据集以及一项关于房颤患者两年卒中风险预测的真实世界复制研究进行了验证。合成实验表明，针对性的公平性方法通常能减少预定的子群体差异，而组合策略则能产生更大的平均公平性改善，同时带来适度的效用权衡。在临床预测任务中，缓解效果差异很大，某些组合同时改善了公平性和预测性能，而另一些则无效甚至适得其反。这些发现证明，公平性干预措施以非加性且依赖上下文的方式相互作用。FairSelect提供了一个实用框架，用于系统地识别能够在临床机器学习中提升子群体公平性同时保持模型性能的公平性策略。

## 提交历史

来自：Nicholas Souligne \[查看邮箱（https://arxiv.org/show-email/9f90aeec/2607.08953）\] **\[v1\]** 2026年7月9日 星期四 21:27:29 UTC（340 KB）

相似文章

算法公平性的统计与结构性方法

arXiv cs.LG

本博士论文批判了当前机器学习中的公平性度量方法，并提出统计假设检验和结构性分析来解决偏差问题，重点关注网络和层级上下文。

GESD：超越结果导向的公平性

arXiv cs.LG

本文提出了GESD，一种面向过程的公平性度量，用于衡量不同子组之间解释稳定性的差异，并将其集成到一个多目标优化框架中，以联合优化效用、结果公平性和解释公平性。

通过将公平性视为对称操作来检测和缓解偏见

arXiv cs.AI

本文提出将公平性视为机器学习分类器中的对称操作，通过基于损失的规范化来实现在固定能力特征的同时，交换敏感属性时的不变性。该框架实现了超过90%的偏见减少，且准确率损失极小，无需因果图知识。

公平强化学习

Reddit r/AI_Agents

公平强化学习引入了民主对齐，以整合来自不同代理的多个竞争性价值集，克服了传统RLHF的局限性，并通过黑盒策略包装器实现了数量级更快的优化。