counterfactual-fairness

本文从理论和实证角度研究了图像分类中反事实公平（CF）与群体公平（GF）之间的关系，引入了新的CF评估数据集（CelebA-CF 和 LFW-CF）。研究发现，由于潜在属性与敏感属性相关，CF并不蕴含图像的GF，并提出了反事实知识蒸馏（CKD）以缓解这一问题。

该研究发现，语言模型在并列比较标准美式英语和非裔美国人白话英语时，会表现出更强的方言偏见，即使经过安全微调也是如此。反事实公平微调可以在孤立情况下减少某些偏见，但在对比设置中并不一致。