个性化因果追溯：一种人在回路中的方法

# 个性化因果纠正：一种人在环中的方法
来源: https://arxiv.org/html/2607.03425
11研究机构: 爱丁堡大学，英国爱丁堡
11邮箱: D\.Tampieri@sms\.ed\.ac\.uk
22研究机构: 布鲁诺·凯斯勒基金会，意大利特伦托
33研究机构: 帕维亚大学，意大利帕维亚
Giovanni De Toni, Paolo Giudici

###### 摘要

算法纠正确在解决为受到不利机器学习决策影响的用户提供量身定制建议这一挑战，尤其是在高风险场景中。传统的纠正方法通常依赖于最近的反事实解释或假设用户因果结构的先验知识，从而导致干预忽略了个人背景和特定的特征交互。为克服这些局限性，我们研究了一种人在环中的框架，该框架在生成纠正建议之前，通过贝叶斯推理进行交互式查询，逐步逼近用户的结构因果模型。该框架利用人类的反馈来改进因果效应的识别，从而实现个性化、合理、成本效益高且与每个用户实际因果依赖关系一致的纠正。作为概念验证，我们通过模拟的人类响应来评估该框架。我们在线性和非线性因果模型上的模拟显示了有希望的结果，尽管在捕捉复杂、非线性结构方面仍存在挑战，这凸显了精确近似和鲁棒噪声分布建模的重要性。

## 1 引言

机器学习模型越来越多地用于高风险决策任务，例如医疗保健、金融、刑事司法、国防和自主系统\[dressel2018accuracy, kalathoti2025explainable, yoo2019adopting\]。在这些场景中，对自动化系统的信任不仅仅需要预测准确性：受影响的个人必须能够理解和质疑那些严重影响他们生活的决策。反事实解释是一种重要的局部解释形式，它描述了如何改变个体的输入特征以逆转不利决策。基于这一思想，算法纠正旨在提供可操作的建议，让人们能够改善他们的结果\[wachter2017counterfactual\]。

最近的工作将纠正置于因果框架中，将建议建模为对个体特征的干预\[karimi2021algorithmic, dominguez2022adversarial\]，而不是独立的特征更改\[wachter2017counterfactual\]。因果纠正提供了一种原则性的方式来推理行动如何通过相互依赖的特征传播，并有望产生更现实、付出更少努力的干预。然而，现有的因果纠正方法基于一个强有力的假设：控制个体特征的真正因果模型，包括因果图和结构方程，是已知的，或者可以从观测数据中可靠地近似\[karimi2020algorithmic, dominguez2022adversarial\]。在实践中，这个假设很少成立\[hammerton2021causal\]。因果机制可能因个体而异，观测数据可能不可用，因果知识可能不完整或具有主观性\[karimi2020algorithmic\]。因此，从错误因果模型得出的纠正建议，在现实世界中实施时可能成本高昂或效果不佳。这一局限性广泛适用于当前在决策系统中提出现实世界干预的方法。

参照图注图1：个性化因果纠正。结构因果模型（SCM）估计在算法纠正中的作用概述。灰色注释展示了贷款申请场景中的一个示例。在这项工作中，我们通过提出一种替代的人在人环中（HITL）框架来应对这一挑战，该框架用于推断用户特定的因果模型并生成有效的个性化纠正。我们不假设能访问真正的因果模型，而是通过直接查询用户来估计个体结构因果模型（SCM）的替代模型。使用贝叶斯公式，我们从干预-响应配对中推断用户的因果模型，随后基于估计的模型生成纠正。我们将这种方法称为*个性化因果纠正*。在这项简短的研究中，我们在模拟研究中评估了 HITL 组件：人类反馈被建模为对用户 SCM 进行噪声干预的响应，而不是从真实用户收集。这构成了一个受控的概念验证，确立了该方法的可行性。图1 (https://arxiv.org/html/2607.03425#S1.F1) 展示了完整的流程：给定一个被负面分类的个体，该框架首先通过模拟的目标干预查询从用户那里引出因果知识，使用 MCMC 估计一个替代 SCM，最后生成基于用户自身因果结构的个性化纠正建议。在所示的贷款示例中，这会产生一个具体、可操作的建议，例如所需的工资增加。我们评估从估计的因果模型得出的纠正是否 (i) 在应用于不可观测的基准真实因果模型时仍然有效，以及 (ii) 相对于直接从基准真实因果模型计算的纠正，产生了额外成本。总之，这项工作的主要贡献是：

1.  在用户真正因果模型不确定的情况下，形式化了**个性化因果纠正**的任务。
2.  提出一种人在环中的贝叶斯方法，从有噪声的干预反馈中估计用户特定的结构因果模型。
3.  对从估计因果模型生成的纠正的有效性和成本进行定性和定量评估，证明个性化因果纠正优于非个性化的基线方法。

## 2 预备知识和相关工作

#### 2.0.1 因果关系。

结构因果模型（SCM）提供了一个框架来形式化和推理系统的因果行为\[pearl2009causality\]。一个 SCM M = \(X, U, P, F\) 包含内生变量 X = {X_i}_{i=1}^d、根据概率 P(U) 分布的噪声变量 U = {U_i}_{i=1}^d，以及形式为 X_i := f_i(Pa_i, U_i) 的结构方程 F，它描述了变量与其父节点 Pa_i ⊆ X \ X_i 之间的所有因果关系，例如，储蓄和工资之间的关系。一个 SCM 导出了一个前向分布 P(X, U) = P(X | U) P(U)，其中 P(X | U) 是确定性的。

SCM 支持干预性推理（例如，“如果我获得数据科学学位，那么我的工资会发生什么变化？”）。干预是通过修改结构方程来建模的，可以通过*硬干预* do(X_i = v)，它完全替换一个因果机制，或者*软干预* do(X_i = x_i + v)，它在保持因果依赖关系的同时改变条件分布\[eberhardt2007interventions\]。为了可读性，我们将两种干预都简写为 do(v)。

SCM 还支持*反事实*推理\[pearl2009causality\]，即假设在其他条件相同的情况下，如果世界因干预而不同，会发生什么（例如，“既然我获得了计算机科学学位，如果我获得了医学学位会怎样？”）。给定 x，反事实分布 P^{do(v), X=x}(X) 首先在原始 SCM 中通过溯因得到外生因素 U，然后在干预后的 SCM 中推断 X 的状态，即 P^{do(v), X=x}(X) = P^{do(v)}(X | U) P(U | X=x)。一个特别相关的 SCM 子类由加性噪声模型（ANM）给出，其中结构方程的形式为 X_j := f_j(Pa_j) + N_j，且噪声项 N_j 具有严格正密度且相互独立\[pearl2009causality\]。

#### 2.0.2 因果算法纠正。

算法纠正旨在为个体提供可操作的建议，以逆转机器学习模型做出的不利决策\[wachter2017counterfactual\]。因果算法纠正通过将纠正行动建模为对个体特征因果机制的干预，进一步精炼了这一观点\[karimi2021algorithmic, dominguez2022adversarial\]。通过考虑因果依赖关系，它能够实现现实的纠正建议。

给定一个已知的 SCM M，我们考虑一个二元决策场景，其中个体 x ∈ X 从 P(X) 中采样，并根据 P(Y | X) 被分配标签 Y ∈ {0,1}（例如，Y=0 表示“用户无法按时偿还贷款”）。一个分类器 h: X → (0,1) 在带标签的样本上训练，并通过阈值进行决策。一个*行动* a ∈ A 通过 a(x) = do(v) 修改单个特征，一个干预是一组这样的行动。给定 x，在 SCM M 下由 a 诱导的反事实结果计算为 x^{CF} = CF(x, a; M) := M^{do(v)}(M^{-1}(x))，遵循标准因果语义\[pearl2009causality, dominguez2022adversarial\]。此外，我们定义一个成本函数 c: X × A → R^+，用于衡量实施一个行动所需的努力，实际中选择 c(x, a) = ||v||_1。有效的纠正要求反事实结果被正面分类。实际上，在算法纠正中，给定一个被负面分类的实例 x ∈ X，我们希望解决以下优化问题，即找到能够翻转分类器预测的最便宜的反事实干预：

a* = argmin_{a(x)=do(X_i=x_i+v)} c(x, a)  s.t. h(CF(x′, a; M)) = 1      (1)

#### 2.0.3 进一步相关工作。

我们的工作扩展了关于因果算法纠正的文献\[karimi2020algorithmic, majumdar2024carma, detoni2023personalized, detoni2025temporalrecourse\]，并建立在鲁棒算法纠正\[dominguez2022adversarial\]、反事实解释、因果关系和主观因果关系\[ellis2021subjective\]的研究基础上。

因果推理是人类认知的一个基本方面，超越了概率关联，涵盖了机制、干预以及因果之间的不对称性\[sloman2015causality\]。人类自然地推理行动如何改变结果，并区分观察变量和主动干预变量，这使他们非常适合贡献可能无法仅从数据中获得的因果知识。这一见解启发了人在环中（HITL）方法，即将人类输入整合到学习和解释流程中。例如，CHIME 框架利用人类注释来构建因果图，以支持基于干预的解释并暴露模型行为中的虚假相关性\[biswas2022chime\]。相关地，Ellis 和 Thysen (2021) 提出了一个框架，其中智能体根据表示为有向无环图（DAG）的主观因果信念行动，展示了即使在存在反馈循环和认知偏差的情况下，个体决策模式如何揭示个性化的因果模型\[ellis2021subjective\]。这些工作强调了因果知识通常是个人化且主观的。

个性化纠正方法试图通过整合偏好和行动成本来为个体用户定制建议\[esfahani2024recourse, detoni2023personalized, Abrateinbook\]。HITL 方法如 HIP-CORE 将纠正表述为一个多目标优化问题，明确地将用户偏好与传统的纠正标准结合在一起\[Abrateinbook\]。PEAR 框架进一步推进了个性化，通过从反馈中迭代学习用户特定的成本结构，并通过成本相关结构对行动之间的依赖关系进行建模\[detoni2023personalized\]。尽管他们的模型捕捉了行动成本之间的相关性，但并未表示控制用户特征的因果机制。总的来说，现有工作要么在不建模用户特定因果机制的情况下个性化纠正，要么在假设因果模型已知的前提下使用因果纠正。综合来看，这些发现表明，有效的解释和纠正机制不应假设能访问单个、客观的因果模型。相反，它们激发了利用人类输入来推断用户特定因果结构的方法，从而为个性化和现实的干预奠定基础\[karimi2020algorithmic\]。

我们的工作也与*基于规则的解释*有关。像 Anchors 这样的方法生成高精度的局部规则，阐明哪些特征条件足以保证一个预测\[ribeiro2018anchors\]。基于规则的解释提供了透明度和可解释性，但它们主要是描述性的：虽然它们解释了一个决策为何做出，但它们没有明确地对用户行动的成本、可行性或因果后果进行建模。因此，它们与旨在提供可操作、基于干预的推荐的纠正方法是互补的。

## 3 形式化个性化因果纠正

当前的算法纠正方法假设用户共享一个全局因果模型，却忽略了因果机制（例如，结构方程）可能在个体之间不同的事实。例如，教育对工资、收入对储蓄、或职业培训对就业概率的因果效应，可能会因背景、偏好或潜在条件的差异而在个体之间有很大不同。受此启发，我们引入了一个新的问题设置，形式化了**个性化因果算法纠正**的任务：

###### 定义 1 (个性化因果纠正)

设 h: X → {0,1} 为一个分类器，x ∈ X 为一个被负面分类的个体。给定基准真实（GT）SCM M^{GT}，我们希望获取一个估计的 SCM \~M 来求解以下优化问题：

a* = argmin_{a(x)=do(X_i=x_i+v)} c(x, a)  s.t. h(CF(x′, a; M)) = 1  ∀ x′ ∈ B(x)      (2)

使得 a* ∈ A 对于目标用户具有最小遗憾 Reg(a*, a^{GT}) = c(x, a*) - c(x, a^{GT})，其中 a^{GT} 表示在基准真实 SCM 下的最优（不可观测）行动。

类似于鲁棒算法纠正\[dominguez2022adversarial\]，我们通过一个来强制执行反事实的鲁棒性。