Causal Local States：动态系统的可扩展同步因果网络推断与预测

# 面向动态系统的可扩展同时因果网络推断与预测  
来源：https://arxiv.org/html/2608.17452  

**作者**  
Jonas Braun  
机构：慕尼黑大学物理系，Geschwister-Scholl-Platz 1, 80539 Munich, Germany  
机构：科隆大学理论物理研究所，Zülpicher Strasse 77, 50937 Cologne, Germany  

Fabian Fischbach  
机构：德国航空航天中心人工智能安全研究所，St. Augustin & Ulm, Germany  

Daniel Köglmayr  
机构：德国航空航天中心人工智能安全研究所，St. Augustin & Ulm, Germany  
机构：Entrox Systems, Munich, Germany  

Sebastian Baur  
机构：德国航空航天中心人工智能安全研究所，St. Augustin & Ulm, Germany  
机构：Entrox Systems, Munich, Germany  

Christoph Räth  
机构：慕尼黑大学物理系，Geschwister-Scholl-Platz 1, 80539 Munich, Germany  
机构：Entrox Systems, Munich, Germany  
机构：德国航空航天中心地球与空间前沿材料研究所，51170 Cologne, Germany  

#### 摘要  
机器学习方法在预测许多现实世界系统方面展现出惊人的准确性，但它们通常被视为无法提供系统动力学驱动交互机制洞察的“黑箱”。因果发现方法从观测数据中重构交互网络，但未考虑推断结构是否支持预测。现有结合这两种任务的方法依赖单一全局超参数（如因果阈值或固定邻域大小），无法恢复异质性系统的结构。本文引入**因果局部状态**框架，同时推断近似格兰杰因果交互网络并预测系统动力学。针对每个节点独立选择最小邻域集合，使预测模型能够近乎最优地预测该节点状态，随后组合所有邻域以实现全系统预测。在三个难度递增的基准测试中，我们实现了高保真度的底层网络重构，其预测性能与基于真实网络的模型相当，为复杂系统的可解释且可扩展预测迈出了重要一步。  

## 引言  
塑造我们生活的许多系统（如电网[1]、大气[2]或生态系统[3]）都是高维非线性动力系统。预测这些系统的演化对无数决策至关重要，机器学习方法能以相当高的成功率预测复杂动力学[4,5]。但这些模型通常被视为黑箱：它们将原始非结构化测量数据转化为预测结果，却未揭示众多变量中实际发生交互的变量。  
在预测任务中将原始数据结构化为交互网络具有多重优势：对于高维系统，当许多变量对目标预测变量的因果影响较小时，可通过选择相关变量子集而非整个系统来简化处理；同时，交互网络能提供系统内在机制的洞察，支持基于数据的决策，而非盲目依赖黑箱模型。  
CLS正是实现这一目标的框架：从非结构化原始时间序列数据中恢复交互网络，并利用该网络改进系统预测。下文将融合两个不同领域的思想来解决该问题。  
因果发现旨在从观测时间序列数据中重构非线性动力系统的交互网络，方法包括：对二元有向因果度量（如格兰杰因果[6]、传递熵[7]、收敛交叉映射[3]）进行阈值处理；或采用能同时处理间接连接和混杂因素的多元算法[8,9]。这些方法可重构出可解释的因果图，但推断时未考虑其在系统演化预测中的效用。  
数据驱动的预测方法（特别是储备计算[10]及其计算成本更低的后续方法NGRC[11,12]）能以较低的训练成本准确预测动力系统。然而储备计算会同时处理时间序列的所有变量。虽然在低维场景中可能恢复某些结构信息，但对高维非结构化数据，训练后的模型无法提供可靠的底层交互网络洞察，甚至可能因计算不可行而无法训练使用。  
本文开发了一种混合方法，将因果发现与预测方法结合为统一框架：（i）推断高维动力系统的可解释交互网络（以每个变量的局部邻域形式）；（ii）利用这些邻域产生整个系统时间演化的准确预测。  
由于交互网络是显式推断而非隐式包含在整体模型中（为整个系统构建的单一模型），它成为与预测结果并列的直接可检查输出：框架会报告每个变量预测所依赖的其他小部分变量集合。  
虽然本文主要使用NGRC作为预测模型，但需指出所用因果度量和模型是可互换组件，使CLS能适应广泛系统。  
两种方法的桥梁是格兰杰的因果性预测定义[6]：若变量X的过去值能改进变量Y的预测（在条件包含所有其他相关数据时），则称X格兰杰引起Y。因此格兰杰因果性本质上是预测性的。该准则通常作为因果性检验，但同样可用于变量选择：为促进预测，仅当变量能改善预测时才应输入模型。  
我们通过包装器方法实现这一点：在候选变量子集上训练并评估黑箱预测模型，利用跨子集的预测性能对变量进行评分[13,14]。因此，重构近似格兰杰因果交互网络可简化为针对每个节点独立解决的变量选择问题——变量选择标准是其对节点预测准确性的提升程度。  
将包装器选择识别为格兰杰因果性的操作形式是本文的核心思想之一。此外，正确邻域的选择不仅关系到推断结构，也直接影响预测本身：在有限数据下，处理无关变量会增加计算成本并降低模型质量[15]。  
对高维系统而言，了解交互结构不仅有助于解释性，更是实现预测的前提。为避免维度灾难，Pathak等人[16]提出局部状态方法，将时空系统分解为片段：每个片段包含一个核心节点，通过自身模型基于小型局部邻域进行预测。Baur和Räth[17]将此分解扩展至非局部交互系统，通过互相关和互信息等相似性度量构建邻域。  
此类分解使大规模系统的数据驱动预测成为可能，但局部状态方法要求预先结构化数据以明确交互结构。结合前述包装器方法结构化数据，再利用局部状态方法进行预测，使我们能在结构化底层数据的同时预测高维系统。  
储备计算领域中少数研究将网络推断与预测性能直接关联：Srinivasan等人[18]将传递熵与并行储备计算方案结合，保留高于因果阈值的连接，并将阈值优化为全局超参数；Chu等人则基于传递熵矩阵前q个条目构建每个邻域，并将邻域大小q优化为单一全局超参数[19]。  
这些方法假设单一全局参数（阈值或邻域大小）适用于网络所有节点，但对异质性系统此假设失效——不同动力学和尺度的子系统间分数通常不可比，因此无法用全局阈值或邻域大小正确恢复所有邻域。我们在补充说明1中明确证明：全局因果阈值甚至无法重构简单网络。  
目前仍缺乏一种基于节点本地标准独立推断每个邻域的方法。此外，Li等人[20]提出高阶格兰杰储备计算，通过单步预测误差评估候选耦合配置，并将推断结构直接编码至储备架构。虽前景可观，但对高维系统如何高效选择算法初始候选集尚不明确——若无系统先验知识，候选集需包含所有潜在邻域，导致搜索空间爆炸。  
CLS避免了此缺陷，可在无底层网络先验知识的情况下同时实现网络推断与预测。该框架无需全局阈值，且因节点间推断完全并行，能自然扩展至高维系统。  

## 结果  
**图1：CLS框架示意图**  
a. 输入为具有未知交互网络的系统生成的高维时间序列数据  
b. 使用因果度量为核心节点候选邻居排序，生成邻域候选集  
c. 包装器优化过程选择最优邻域候选集，并通过后向消除移除冗余特征  
d. 推断过程获得核心节点的近似因果邻域  
e. 对所有核心节点重复a-d后，将推断的局部邻域组合为全局邻域矩阵  
f. CLS框架使用推断邻域进行单步预测：仅在邻域Ni*内的数据上训练模型gi  
g. 单步预测被递归反馈并连接，生成整个系统动力学的多步预测  

由于每个节点采用独立的邻域推断与预测流程，CLS框架天然具备并行化能力，可扩展至高维系统。  

为建立该框架，需回顾CLS的核心基本概念。CLS旨在预测前将完全非结构化数据结构化。由于预测依赖局部状态方法[16]，CLS推断的目标结构是邻域矩阵——该矩阵每行存储单个核心节点的邻域信息，核心节点仅定义当前聚焦的特定节点。邻域围绕核心节点定义，包含所有指向该节点的有向边节点。d个邻域覆盖整个系统，可紧凑存储为邻域矩阵（更严格定义见方法部分公式1）。  

CLS第一步是将非结构化高维输入结构化为各核心节点的邻域。算法单独推断每个核心节点的邻域，组合所有独立邻域后利用推断网络预测整个系统。输入为具有未知耦合关系的时间序列集合（图1a）。  

针对给定核心节点，有向因果度量对所有其他变量排序作为候选邻居，生成小型嵌套候选邻域集（图1b）。包装器模型选择能近乎最优预测核心节点的最小候选集，并通过后向消除修剪冗余成员（图1c），获得该节点的近似格兰杰因果邻域（图1d）。  

独立重复此过程可组装全局邻域矩阵（图1e）。该矩阵随后用于并行预测整个系统：每个节点仅基于自身邻域预测（图1f），单步预测被递归反馈生成全系统多步轨迹（图1g）。  

通过局部邻域预测系统的合理性源于因果马尔可夫条件：给定变量的父节点后，该变量条件独立于所有非后代节点，因此父节点集合是预测的充分输入。这使得单个d维预测问题可被d个小型局部问题替代。  

重要的是，该条件不会因额外伪邻居而被破坏——添加非父节点保持条件独立性不变。伪邻居虽增加计算成本并模糊解释，但不会使分解失效；CLS仍包含消除步骤移除它们，因为更小的邻域能提升解释性并简化模型拟合。  

可能认为满足因果马尔可夫条件的图对预测最优，因此因果发现算法在网络重构中优于CLS。读者可参考补充说明2。