隐私约束下的生产化公平性测量

# 隐私约束下的生产级公平性度量 来源：https://arxiv.org/html/2606.27558，Yuzi Heyuzhe@linkedin\.com (https://arxiv.org/html/2606.27558v1/mailto:[email protected])LinkedIn加利福尼亚州美国,Saikrishna Badrinarayanansbadrina@linkedin\.com (https://arxiv.org/html/2606.27558v1/mailto:[email protected])LinkedIn加利福尼亚州美国,Varun MithalLinkedIn加利福尼亚州美国,Sakshi JainLinkedIn加利福尼亚州美国以及Natesh S\. PillaiLinkedIn加利福尼亚州美国 ###### 摘要。 以分群体评估形式进行的公平性度量通常依赖于受法律约束或文化敏感的人群特征信号。种族和族裔信号是其中较难整理并用于此任务的信号之一。本文提出隐私保护概率性种族/族裔估计（Privacy-Preserving Probabilistic Race/Ethnicity Estimation，PPRE）作为一种方法，用于以隐私保护的方式对美国LinkedIn成员进行种族/族裔相关的公平性度量。PPRE在两种种族/族裔人群特征信号源（贝叶斯改进姓氏地理编码估计器和一组稀疏的自报人口统计黄金调查集）之上应用隐私技术（特别是：安全两方计算、差分隐私和加法同态加密），以支持针对美国种族/族裔人口统计的公平性度量解决方案。我们详细阐述了其隐私保证，并展示了其在候选方和浏览方公平性度量中的应用。最后，我们提出了一个可迁移的框架，供希望实施类似隐私保护度量基础设施的机构参考。隐私增强技术、公平性度量、人口统计数据、安全计算、差分隐私 ††期刊年份:2026## 1\.引言 分群体系统评估是检测AI系统中不公平偏差的标准元方法（Barocas 等，2021 (https://arxiv.org/html/2606.27558#bib.bib6)）：评估者会比较并标记各人口统计群体之间任何已测量的显著系统性能差异。此类评估通常需要成员级别的人口统计数据，如种族/族裔、性别或地点。种族/族裔是一个棘手的情况，因为该人群特征信号可能具有法律敏感性、文化争议性，且通常根本无法获取。许多技术平台不收集种族/族裔数据，或者仅对一小部分用户群体持有这些数据。这造成了一个具体的操作缺口：承诺监控AI系统在受保护人群特征群体（包括种族和族裔）方面公平对待的机构，在首先解决一个人口统计数据问题之前，无法履行这一承诺。涉及种族和/或族裔概念的问题在美国可能复杂且存在争议。值得关注的是，因为美国的政策问题常常涉及公平与正义，而这与公认的社会建构概念——种族/族裔相关。Rieke 等人（Rieke 等，2022 (https://arxiv.org/html/2606.27558#bib.bib13)）这样表达了这种张力：“尽管种族具有社会建构和人为性质，但基于种族的 不平等 已经以一种不可否认的真实且值得持续关注的方式塑造了社会与制度。”种族/族裔群体信息对于理解决策系统（包括AI系统）中的错误偏见具有特定价值。但该人口统计信息也承载着显著的滥用风险。这些风险是具体的：从表面上的聚合结果中重新识别个体、功能蠕变（将公平性数据集重新用于歧视性或其它非预期目的）、反歧视法下的监管风险，以及因收集敏感属性而侵蚀用户信任。每一种危害对测量本应保护的人群打击最大，并且每种危害都会随着所收集的敏感数据量和保留时间的增加而加剧。然而，完全放弃针对种族/族裔的测量将使AI系统中的重要偏见无法被检测和解决。因此，核心设计问题在于：*我们如何在限制持有此类敏感人口统计信息的隐私和滥用风险的同时，实现有用的种族/族裔公平性度量？* 隐私保护概率性种族/族裔估计（PPRE）方法通过将概率性种族/族裔估计与隐私保护技术相结合来回答这个问题。它能够在不暴露敏感人口统计信息的情况下实现有用的公平性度量。PPRE已部署于生产规模，用于在保护成员数据隐私的同时衡量AI系统的种族/族裔公平性。 ### 1\.1\.LinkedIn特有版本的问题 LinkedIn大规模利用AI用于职位推荐、内容排名和招聘人员搜索等用例。LinkedIn的负责任AI原则（Lawit 和 Xu，2023 (https://arxiv.org/html/2606.27558#bib.bib2)）包括一项承诺：“促进公平与包容：即确保AI的使用公平地惠及所有成员，不会造成或放大不公平的偏见。”履行这一承诺需要衡量AI系统在关键人口统计维度（包括种族/族裔）上的性能。在LinkedIn，大约6%的美国成员通过自愿的自我身份调查（Self-ID survey）提供种族/族裔属性111https://members.linkedin.com/equal-access。这个样本过于稀疏，无法用于通用的公平性度量。此外，这是一个自选样本，引入了*选择效应*，阻碍了向更广泛人群的泛化。为了解决人口统计数据不足的问题，我们考察并拒绝了若干替代方法。一种替代路径——*基于倾向得分的去偏差*，应用因果和准实验方法试图消除基于Self-ID样本的AI公平性度量中的选择偏差。去偏差估计显示了正确的偏差方向，但幅度准确性难以校准。正确获得度量幅度对于后续的缓解措施至关重要。此外，这种度量方法需要针对每个被测试的AI系统重新校准倾向得分模型。这不是一种可扩展的度量策略，尤其是当候选AI系统的组合在规模和多样性上爆发式增长时。我们同样拒绝了早期的系统设计，这些设计在同时对Self-ID记录应用本地差分隐私（local DP）和静态加密后，将人口统计估计值持久化到公共位置。这条路径被拒绝是因为它需要持久化敏感数据或执行可识别的明文分析。 ### 1\.2\.设计原则与演进 最终的设计（PPRE）经过多次迭代后形成，并参考了内部利益相关者和外部专家（工程与科学领域，2023 (https://arxiv.org/html/2606.27558#bib.bib8)）的意见。这些探索明确了一个关键要求：所有成员级别的人口统计数据必须是*瞬时的*，按需生成，立即加密，并在聚合后删除。产生了四个核心隐私原则： 1. (1)*数据最小化*：使用最少的必要个人数据，尊重LinkedIn的隐私承诺以及成员对种族/族裔信息的敏感性。 2. (2)*不进行个体种族/族裔分类*：避免为任何成员分配单一的种族或族裔类别。仅计算概率估计值，并且这些估计值是瞬时的：按需计算，从不存储到磁盘，默认加密，并进行聚合。 3. (3)*强安全性*：实施隐私和安全保护，防止对度量工作流进行未授权访问，包括努力防止将估计计算与可识别个人重新关联。 4. (4)*无持久性敏感关联*：避免创建将成员与人口统计标签进行潜在持久关联的解决方案，特别是因为估计的人口统计信息可能不正确和/或不精确。这排除了会存储故意伪造的种族数据表（例如，对Self-ID记录应用本地DP并将结果持久化）的方法。 满足这些原则的设计是*安全两方计算协议*。两方各持不同的数据组件，共同计算公平性度量，而无需观察对方的明文输入。人口统计数据瞬时生成并立即加密；仅对聚合统计量进行解密。该协议组合了可交换加密、加法同态加密和差分隐私，以平衡效用、计算成本、通信成本和隐私。 ### 1\.3\.PPRE方法 PPRE基于三个概念支柱。*人口统计信号处理*，生成并解释概率性种族/族裔估计值。*隐私原语及其扩展*，提供密码学和统计学工具包。以及*安全计算协议*，将它们组合成一个端到端系统。 第一个支柱是*人口统计信号处理*，它贯穿从原始输入到贝叶斯估计过程，再到生成可解释的公平性度量的完整信息管线。我们依赖BISG方法（Elliott 等，2009 (https://arxiv.org/html/2606.27558#bib.bib19)；Imai 等，2022 (https://arxiv.org/html/2606.27558#bib.bib21)）来驱动这一处理流程。BISG是一个基于美国人口普查规范的贝叶斯模型，根据姓氏SS和地点GG产生种族/族裔的*概率性*估计。它使用2010年美国人口普查频率表（统计局，2016 (https://arxiv.org/html/2606.27558#bib.bib24)，2011 (https://arxiv.org/html/2606.27558#bib.bib23)）计算六个类别（管理与预算办公室，1997 (https://arxiv.org/html/2606.27558#bib.bib25)）上的后验概率Pr⁡\(R\|S,G\)\\Pr\(R\|S,G\)。关键的是，BISG输出的是概率分布，而非类别分配。这满足不进行个体分配的原则，同时支持聚合度量。Self-ID调查提供了一个稀疏的校准信号：来自约6%美国成员的自愿自我报告。这些数据在被使用前经过私有化处理并与BISG估计值结合（第2节 (https://arxiv.org/html/2606.27558#S2)，第6节 (https://arxiv.org/html/2606.27558#S6)）。此外，由于PPRE基于概率分布而非类别标签运行，标准差异估计器必须进行泛化。遵循Chen等人（Chen 等，2019 (https://arxiv.org/html/2606.27558#bib.bib11)）和Elzayn等人（Elzayn 等，2023 (https://arxiv.org/html/2606.27558#bib.bib12)）的例子，我们用软指示符Pr⁡\(Ri=j\)\\Pr\(R\_\{i\}=j\)替换硬指示符I\(Ri=j\)\\mathbb\{I\}\(R\_\{i\}=j\)。这给出了与概率性人口统计兼容的加权平均估计器。第5节 (https://arxiv.org/html/2606.27558#S5) 发展了概率性差异估计器框架，并将其应用于三个已部署的公平性度量指标。 第二个支柱是*隐私原语及其扩展*，提供了密码学和统计学工具，以及扩大其覆盖范围的实际扩展。三个核心原语支撑了该协议。*可交换加密*（基于Curve25519的Pohlig-Hellman（Bernstein，2006 (https://arxiv.org/html/2606.27558#bib.bib40)））通过顺序无关的双重加密标识符实现私有集合交集。*加法同态加密*（Paillier（Paillier，1999 (https://arxiv.org/html/2606.27558#bib.bib37)），2048位模数）允许对密文进行计算，支持概率性差异估计器所需的线性聚合。*本地差分隐私*（随机响应（Warner，1965 (https://arxiv.org/html/2606.27558#bib.bib34)））在Self-ID记录进入协议之前对其进行保护，防止跨度量运行的重新识别。 作为概率和测试值线性函数的估计器可直接在加法同态加密（AHE）下计算。生产公平性度量所需的操作符集合不仅限于线性函数。公平性度量高度依赖于非线性操作符，如除法、数值比较、浮点运算以及假设检验操作，这些是生产公平性度量指标所要求的。AHE原生不支持这些非线性操作，因此我们必须开发对原生AHE协议的适配以实现这些操作。第3节 (https://arxiv.org/html/2606.27558#S3) 讨论了使非严格线性的差异度量指标能够计算的协议适配方案。我们对标准AHE工具包的扩展包括五种适配模式：通过分子/分母分别聚合进行比率估计、定点编码、加密前比较、有符号数编码和自助法假设检验（第3节 (https://arxiv.org/html/2606.27558#S3)）。这些扩展共同实现了生产级度量指标，包括列表式结果检验（Listwise Outcome Test，LOT）和最低服务质量 – NDCG（Minimum Quality of Service – NDCG，MQOS-NDCG）。 第三个支柱是*协议组合*，它将人口统计信号处理与隐私工具结合成一个安全两方计算协议。该协议运行于*P1P\_\{1\}（测试方）*——持有私有化人口统计数据的负责任AI团队，和*P2P\_\{2\}（测试客户端）*——持有成员ID、模型分数和结果的产品团队之间。P1P\_\{1\}通过应用本地DP对Self-ID记录进行私有化处理，计算BISG估计值，将它们组合起来，并应用概率性裁剪以防止接近确定的分配。然后，双方对其连接键（PSI所需）执行可交换加密，并对各自的值列执行其他加密相关操作。双方执行基于PSI的加密连接，随后进行同态聚合，这一过程通过一系列加密表的交换来完成。P1P\_\{1\}在不进行解密的情况下计算P2P\_\{2\}加密测试值上的加权和。然后，P2P\_\{2\}对聚合后的和进行解密，以获得最终的明文差异统计量。仅对聚合后的差异统计量进行解密。该系统的保证是这三个支柱共同作用的结果：没有个体被分配种族/族裔。双方仅交换加密数据，成员标识符被双重加密并在计算前丢弃。任何一方都无法了解身份、人口统计和模型特征的完整元组。本地DP结合概率性裁剪可防止跨运行重新识别Self-ID受访者，所有成员级别的数据在处理后被删除。进一步的治理控制措施，包括法律审批要求、最小人口阈值以及对特定度量的禁止，有助于防范其他问题，如差分攻击。 PPRE系统已部署于生产环境，用于AI排名系统的种族/族裔公平性度量，支持在双边推荐市场中同时进行候选方和浏览方测试。这一生产经验提供了一个存在性证明，表明私有化的多方公平性度量在工业规模上是可行的。它也为此类在负责任AI文献中经常提出的跨组织安全计算架构提供了实践背景。 ### 1\.4\.贡献与相关工作 PPRE将多个领域的方法混合到一个生产系统中。本文沿三个支柱做出贡献： 1. (1)*人口统计信号处理*。我们开发了概率性差异估计器，将标准公平性度量泛化，使其能够处理BISG概率分布