亨佩尔统计模糊问题的解决方案与因果AI

# 亨佩尔统计歧义问题的解决方案与因果AI
来源: https://arxiv.org/html/2607.12826
[1]\fnmEvgenii\surVityaev

[1]\orgnameSobolev Institute of Mathematics of the SB RAS,\orgaddress\streetKoptuga 4,\cityNovosibirsk,\postcode630090,\countryRussia

###### 摘要

本文针对卡尔·亨佩尔在归纳-统计推理中长期存在的统计歧义问题——即从统计定律中推导出矛盾性预测——进行了探讨。为避免此类预测，卡尔·亨佩尔提出了对推理中所用统计定律的“最大特异性要求”（RMS）。对韦斯利·萨尔蒙、阿尔贝托·科法和詹姆斯·费策尔所做的RMS细化分析，引出了以下对最大特异性统计定律的定义：“一个充分解释的律则性前提必须精确指定所有那些其存在与否对待解释现象的发生有影响的属性。”然而，基于这一定义解决统计歧义问题的证明尚未出现。我们采用南希·卡特赖特关于原因在背景语境下提高概率的定义，进而引入“因果规则”的概念。然后，我们定义了一种特殊的语义概率推理程序，该程序通过纳入所有统计相关信息，逐步细化这些因果规则。该程序产生最大特异性因果关系（MSCRs），我们证明了（定理1）基于这些关系做出的预测是一致的。这解决了统计歧义问题。该语义概率推理程序提供了一个概率因果学习系统，可用于因果AI和因果机器学习等新领域。这些领域从根本上探索因果推理，将其作为理解复杂系统内因果关系的一种工具。与RMS类似的性质仍在讨论中。文中还考虑了与RMS相关的几个概念：不变特征学习、不变因果预测和虚假关联。

###### 关键词:

解释, 归纳-统计推理, 统计歧义, 因果推理, 一致性

## 1引言

近年来，在因果AI和因果机器学习领域，因果推理已成为理解因果关系的关键工具。将这些关系整合到机器学习模型中，可以构建因果模型，从而更深入地理解现实世界系统。这一范式在医学、金融和自主系统等领域提供了更强大、更可解释且更具可操作性的洞察。

为了开发能够无矛盾地推断效应的概率因果学习系统，我们需要解决亨佩尔的统计歧义问题。该问题涉及从归纳-统计推理中推导出矛盾性预测 [Hempel65, Hempel68]。为避免此类矛盾，卡尔·亨佩尔引入了统计定律的“最大特异性要求”（RMS），这意味着最大特异性的统计定律必须包含所有与预测相关的信息。随后对RMS的分析揭示了许多问题和争议（见下一节“历史背景”）。因此，统计歧义问题未能得到解决，最大特异性统计定律预测的一致性也未得到证明，该问题依然悬而未决。

本文重新审视了“统计歧义问题”和RMS。我们基于亨佩尔的定义来定义RMS，并定义了最大特异性因果关系（MSCR）的概念。然后，我们证明了一个定理（定理1），即基于MSCR的预测是一致的。这解决了亨佩尔关于最大特异性因果关系的“统计歧义问题”。这对于因果AI和因果机器学习领域的工作至关重要。

基于卡特赖特关于原因在不同背景语境下提高其效应概率的定义 [Cartwright, Stanford]，我们定义了更强的“因果规则”（CR）概念。

- 卡特赖特：C导致E当且仅当对于每一个背景语境B，有 P(E∣C&B) > P(E∣¬C&B)。
- 在因果规则中，背景由规则的所有其他条件构成。
- 因果规则（见定义6）：规则 A1 & ... & Ak ⇒ A0 是一个 *因果规则*，当且仅当每个文字 A1, ..., Ak 都是 A0 的一个原因，即对于 i=1,...,k，相对于包含除 Ai 之外所有文字的背景 B = { {A1, ..., Ak} \ Ai }，有 P(A0∣A1 & ... & Ak) > P(A0∣¬Ai & B)。

我们引入了一个因果规则的细化程序，该程序通过添加所有相关信息，逐步增强因果规则的条件概率，直到因果规则无法再被细化，从而产生最大特异性因果关系。这提供了MSCR发现的学习方法（定义8）。MSCR可以被视为因果模型，因为它们识别出支撑可靠因果关系的关键变量。因此，该方法产生了一个因果学习系统。

令 MSR 为所有MSCR的集合。定理1证明，基于 MSR 的任何子集的 I-S 推理预测是一致的。因此，集合 MSR 提供了一致的概率知识集。集合 MSR 可以被视为一个一致的*概率理论*，其意义与逻辑理论一致并能推断出一致结论相同。

对于形式为 A1 & ... & Ak ⇒ A0（其中 A1, ..., Ak, A0 是文字）的统计定律的统计歧义问题，已在 [Author1, Author12] 中讨论过；对于形式为 φ ⇒ ψ（其中 φ 和 ψ 是命题公式）的统计定律，已在 [Author13] 中讨论过。

本文组织如下。第2节（RMS历史）致力于RMS的历史分析并揭示围绕它的讨论。第3节讨论RMS与因果AI和因果机器学习的关系。第4节定义命题公式的概率。第5节考虑规则、其概率以及MSCR的定义。在第6节中，我们将I-S推理定义为 MSR 的一个预测算子，并证明将其应用于一致的MSCR集合会产生一致的结论。最后，第7节是结论。

## 2 RMS历史

归纳-统计（I-S）解释中的统计歧义问题最早由亨佩尔发现。该问题引发了大量文献，试图阐述和完善概率解释避免矛盾结论的条件。本节追溯最大特异性要求（RMS）从亨佩尔原著到后续批评与重构的演变过程，最终确定因果要素是解决歧义的关键。

总证据原则及其局限性。在直接讨论最大特异性要求之前，有必要将其与概率推理的另一基本原则——总证据要求——区分开来。按照卡尔纳普等人的阐述，总证据要求是指，在任何合理的概率推理应用中，赋予假设的概率必须参照所有可用证据来确定。在亨佩尔的表述中，这一原则指导我们，在评估一个陈述的可信度时，必须考虑整个知识体 K：“在给定的知识情境下，给语句‘Gi’赋予何种置信度或概率才是合理的？”[Hempel68]

最初，亨佩尔曾将最大特异性要求与总证据要求混为一谈，认为RMS是后者的“粗略替代品”。然而，在1968年的重新评估中，他明确撤回了这一观点，认识到这两个原则处理的是根本不同的问题。总证据要求涉及基于所有可用信息对陈述的合理可信度。而最大特异性要求则涉及论证的解释地位：它规定了在知识体 K 中，两个语句——一个统计定律 p(G, F)=r 和一个单称语句 Fi ——在何种条件下能够相对于 K 解释为何 i 是 G。正如亨佩尔所强调的：解释的目的不是为待解释现象的发生提供证据，而是将其展示为法则上可预期的。与 I-S 解释相关的概率是结论相对于解释前提的概率，而非相对于整个知识类 K 的概率。因此，总证据要求根本不适用于确定与 I-S 解释相关的概率，而最大特异性要求也并非“总证据要求的粗略替代品”。[Hempel68]

这一澄清确立了RMS作为一个独立原则的地位，具有其独特的理论基础，专门用于解决统计背景下的解释歧义问题。

统计歧义问题与RMS的初始构型。RMS旨在解决的问题源于归纳-统计解释本身的特性。如 [Hempel65] 所示，一个 I-S 论证具有如下形式：

p(G;F) = r
F(a)
G(a)

其中横线表示归纳关系，r 是待解释项相对于解释项的归纳概率。

当两个具有真实前提的论证得出矛盾结论时，便产生了统计歧义。这可以通过一个经典例子（引自Salmon）来说明。

假设我们有以下陈述。

- L1 几乎所有链球菌感染病例在服用青霉素后迅速痊愈。
- L2 几乎没有耐青霉素链球菌感染病例在服用青霉素后迅速痊愈。
- C1 简·琼斯患有链球菌感染。
- C2 简·琼斯接受了青霉素治疗。
- C3 简·琼斯患有耐青霉素链球菌感染。

按照上述I-S解释模式，可以基于这些陈述构造两个矛盾的论证。基于 L1 和 C1∧C2，可以解释为何简·琼斯迅速康复（E）。第二个论证以 L2 和 C2∧C3 为前提，解释了为何她没有（¬E）。两个论证的前提彼此一致，它们可以同时为真。两个论证的概率都可能接近1。

为了阻止这种冲突的解释，亨佩尔引入了最大特异性要求 [Hempel65]。

> RMS: 要使一个 I-S 论证相对于知识体 K 是可接受的，对于任何谓词 H，若 K 同时包含 ∀x(H(x) ⇒ F(x)) 和 H(a)，则在 K 中必须存在一个具有相同概率 r 的统计定律 p(G;H)=r。

基本思想是，如果 H 提供了关于该对象的比 F 更具体的信息，那么基于 H 的定律应该被优先考虑——而如果该定律具有不同的概率，则原始论证无效。

亨佩尔希望通过迫使论证中的所有统计定律都达到最大特异性来解决这个问题。也就是说，这些定律应包含与该领域相关的所有信息。在我们的例子中，前提 C3 使第一个论证无效，因为它相对于关于简·琼斯的所有信息不具有最大特异性。因此，我们只能解释 ¬E，而不能解释 E。

知识相对性问题。科法批评了亨佩尔坚持将 I-S 解释相对化于知识体 K 的做法 [Coffa]。科法首先区分了认知概念与非认知概念。如果一个概念的意义不能参照知识来给出，那么它就是认知概念；非认知概念——如“桌子”、“椅子”或“真理”——则可以独立于任何认知者来刻画。科法解释道，亨佩尔的论点是，归纳解释不仅仅是认知意义上的（即它依赖于我们对证据的了解，如“充分确证的D-N解释”那样），而且它还是一个“非确证性的认知概念”。这意味着，正如亨佩尔自己所承认的，“没有这样一个概念，它能像真实D-N解释的概念对应于充分确证的D-N解释那样，对应于他认知相对化的归纳解释概念”[Coffa]。换句话说：根据认知相对性论题，不存在有意义的真实归纳解释概念。因此，我们不可能有任何理由相信某物是“真实的归纳解释”。[Coffa]

科法的根本反对意见是，这一结论不仅令人惊讶，而且对归纳解释的计划是致命的。如果没有真实归纳解释的概念，那么相对化于 K 的 I-S 解释就不能被理解为我们有理由相信它们是解释的论证，其方式与 D-N 解释相同。

更重要的是，科法认为亨佩尔错误地识别了问题的本质。真正的困难不是认知的，而是本体论的——它是旧有参照类问题的新形式。

我们想指出，当亨佩尔将注意力转向归纳解释理论时，他所遇到的实际上是这样一个事实：为单一事件定义归纳解释模型的问题与单一案例问题是同一枚硬币的另一面。也就是说，他遇到了参照类问题 [Coffa]。

参照类问题的产生是因为一个单一事件可以属于多个参照类，这些参照类对于感兴趣的结果具有不同的概率。琼斯属于链球菌感染患者类、青霉素治疗患者类以及耐青霉素感染患者类。每个类别都给出不同的康复概率。科法指出，频率主义传统认为，“为单一事件分配概率是严格无意义的”[Coffa]，因为所有参照类原则上都是同等合法的。

亨佩尔的认知相对化试图通过诉诸知识来解决这个问题：适当的参照类是个体已知属于的最具体类别。但科法观察到，这一策略具有讽刺性的后果：“正是无知，而非知识，使得最大特异性原则看起来像一个可行的要求”[Coffa]。随着知识的增加，该原则变得越来越难以满足；一个全知的存在将根本找不到任何归纳解释。

科法提出的替代方案指向了一种本体论而非认知论的表述：该要求应指涉“待解释对象的所有相关方面”[Coffa]，其中相关性不是理解为统计相关性，而是理解为法则联系——“当自然法则决定第一个谓词的变化会产生第二个谓词的变化时，一个谓词与另一个谓词在法则上相关”[Coffa]。这一建议预示了后来因果解释方法的发展。

Salmon's Statistical Relevance Approach and shift to O