每个分量一次干预即足：从稳态数据辨识线性随机动态系统

# 每个组件仅需一次干预：迈向从稳态中识别线性随机动力学  
来源：https://arxiv.org/html/2609.19955  
Saber Salehkaleybar  
所属机构：莱顿大学高等计算机科学研究所，荷兰  
通讯邮箱：[[email protected]](mailto:[email protected])  

###### 摘要  
我们研究从稳态观测与干预数据中恢复多元奥恩斯坦-乌伦贝克（OU）过程参数的问题。在许多应用中（如大规模基因扰动实验），仅能获得稳态“快照”测量值，导致依赖时间序列轨迹的标准随机微分方程估计方法无法适用。我们首先建立了一个可辨识性结果：对于漂移图的每个强连通分量（SCC）进行一次干预，通常足以在整体缩放因子下恢复所有OU过程参数。这要求缩并图是连通的且具有单一根节点，并满足特定的谱非退化假设。我们提出了一种递归学习算法，按拓扑顺序处理SCC，并针对每个分量隔离其边缘动力学，利用上游分量恢复的参数，通过稳态矩方程导出的线性系统求解。在此理论基础上，我们提出了一种正则化最小二乘估计器，联合最小化观测与干预数据中稳态均值和协方差方程的残差。实验结果验证了我们关于恢复底层OU过程参数的理论发现。  

###### 关键词：机器学习，ICML  

## 1 引言  
从数据中理解动力系统的结构和参数是许多科学领域的基本问题，包括系统生物学（Bansal等人，2006 (https://arxiv.org/html/2609.19955#bib.bib1)；Marbach等人，2012 (https://arxiv.org/html/2609.19955#bib.bib2)）、神经科学（Paninski等人，2010 (https://arxiv.org/html/2609.19955#bib.bib3)）和经济学（Hamilton，2020 (https://arxiv.org/html/2609.19955#bib.bib4)）。在许多场景中，例如基因调控网络，底层动力学可以用随机微分方程（SDE）建模，其稳态分布编码了相互作用结构和动力学参数（Gardiner，2009 (https://arxiv.org/html/2609.19955#bib.bib5)；Villaverde等人，2016 (https://arxiv.org/html/2609.19955#bib.bib6)）。准确恢复这些参数可以实现变量间相互作用的因果表征，以及在未见扰动下的预测（Pearl，2009 (https://arxiv.org/html/2609.19955#bib.bib7)）。然而，在实验生物学及相关领域，数据通常仅以“快照”测量形式获得（Cao等人，2019 (https://arxiv.org/html/2609.19955#bib.bib9)；Schiebinger等人，2019 (https://arxiv.org/html/2609.19955#bib.bib10)）。许多SDE估计方法所需的时间序列轨迹（Zhang等人，2024 (https://arxiv.org/html/2609.19955#bib.bib11)；Oh等人，2024 (https://arxiv.org/html/2609.19955#bib.bib12)）在大规模上获取成本高昂或不可行。在这种情况下，诸如基因敲除（Datlinger等人，2017 (https://arxiv.org/html/2609.19955#bib.bib13)）等干预通过对系统部分选择性施加影响，提供了额外信息，可能解决仅由观测数据引起的非可辨识性问题（Peters等人，2017 (https://arxiv.org/html/2609.19955#bib.bib18)）。  

大量研究致力于线性随机系统中的因果推断。（Varando和Hansen，2020 (https://arxiv.org/html/2609.19955#bib.bib14)；Dettling等人，2024 (https://arxiv.org/html/2609.19955#bib.bib17)）专注于使用Lyapunov方程从稳态数据中恢复漂移结构。这些方法仅依赖于观测测量，未利用干预信息，这限制了可辨识性。最近，（Lorch等人，2024 (https://arxiv.org/html/2609.19955#bib.bib15)）专注于拟合观测/干预分布，但未提供参数恢复保证。干预感知模型，如（Rohbeck等人，2024 (https://arxiv.org/html/2609.19955#bib.bib16)）中的模型，实现了良好的经验预测，但其可辨识性结果非常有限（更多细节见相关工作部分）。  

在本文中，我们的目标是将干预纳入学习过程，建立恢复SDE参数的可辨识性结果，并开发基于这些理论结果的学习算法。我们的贡献如下：  

- • 我们建立了从稳态观测和干预数据中恢复多元奥恩斯坦-乌伦贝克（OU）过程参数的可辨识性结果。我们证明，在缩并图连通且具有单一根节点以及某些谱/秩非退化假设（假设A\.1 (https://arxiv.org/html/2609.19955#A1.Thmtheorem1)和A\.2 (https://arxiv.org/html/2609.19955#A1.Thmtheorem2)）成立的情况下，对漂移图的每个SCC进行一次干预通常足以在整体缩放¹下恢复参数。为证明这一点，我们首先考虑漂移矩阵为单个SCC的情况，并表明通过求解基于观测数据和来自一次干预的数据的一阶矩和二阶矩的线性方程组，我们可以恢复所有参数直至整体缩放（定理3\.1 (https://arxiv.org/html/2609.19955#S3.Thmtheorem1)）。  

- • 对于具有多个SCC的一般情况（定理3\.6 (https://arxiv.org/html/2609.19955#S3.Thmtheorem6)），我们提供了一种递归算法，该算法对SCC进行拓扑排序，并对每个分量隔离其边缘动力学。这将问题简化为一系列单SCC情况。对于每个SCC，该算法利用为上游分量恢复的参数，求解从观测和干预设置的稳态矩方程导出的线性系统。我们还提供了一个示例，说明如果SCC缩并图有多个根节点，则不可能在单个整体缩放下学习所有参数。  

- • 我们表明，在单节点干预下稳态均值的变化揭示了图的SCC级结构。特别是，定理3\.3 (https://arxiv.org/html/2609.19955#S3.Thmtheorem3)将干预后均值变化的节点集合表征为被干预SCC的下游区域。因此，每个SCC一次干预足以恢复SCC分解和SCC上DAG的拓扑顺序（注记3\.4 (https://arxiv.org/html/2609.19955#S3.Thmtheorem4)）。此结构恢复步骤不需要用于参数识别的谱/秩非退化假设。  

- • 基于这些理论发现，我们制定了一个正则化最小二乘优化问题，联合最小化观测和干预数据中稳态均值和协方差方程的平方残差。经验结果验证了在恢复参数和预测未见干预方面的可辨识性结果。  

## 2 问题表述  
**奥恩斯坦-乌伦贝克过程**：奥恩斯坦-乌伦贝克（OU）过程是一个满足随机微分方程（SDE）的连续时间随机过程：  
d\mathbf{x} = (-\bm{\Lambda}\mathbf{x} + \mathbf{b}) \, dt + \bm{\sigma} \, d\mathbf{W}_t,  
(1)  
其中\mathbf{x} \in \mathbb{R}^n是状态向量，\bm{\Lambda} \in \mathbb{R}^{n \times n}是漂移矩阵（假设为正稳定的），\mathbf{b} \in \mathbb{R}^n是代表外部输入的常数向量，\bm{\sigma} \in \mathbb{R}^{n \times n}是扩散矩阵，d\mathbf{W}_t是n维维纳过程。OU过程的稳态分布是多元正态分布，具有以下均值和协方差：  
- • 均值：\bm{\mu} = \mathbb{E}[\mathbf{x}_\infty] = \bm{\Lambda}^{-1} \mathbf{b},  
(2)  
其中\mathbf{x}_\infty表示按照OU过程稳态分布分布的随机向量。  
- • 协方差：\bm{\Lambda} \bm{\Sigma} + \bm{\Sigma} \bm{\Lambda}^\top = \bm{\sigma} \bm{\sigma}^\top,  
(3)  
其中\bm{\Sigma} \in \mathbb{R}^{n \times n}是稳态协方差矩阵：\bm{\Sigma} = \mathbb{E}[(\mathbf{x}_\infty - \bm{\mu})(\mathbf{x}_\infty - \bm{\mu})^\top]。  
我们假设扩散功率矩阵是对角正定的：\mathbf{D} := \bm{\sigma} \bm{\sigma}^\top = \operatorname{diag}(d_1, \dots, d_n) \succ 0。  

**干预**：我们定义对\mathbf{x}的第i个坐标的干预如下，其中漂移矩阵\bm{\Lambda}的第i行被修改，以消除来自所有其他变量的影响，同时保留其自调控。形式上，我们定义修改后的漂移矩阵\widetilde{\bm{\Lambda}}^{(i)}为：  
\widetilde{\Lambda}^{(i)}_{kj} = \begin{cases} \Lambda_{kj}, & i \neq k, \\ 0, & i = k, \, j \neq i, \\ \Lambda_{ii}, & i = k, \, j = i. \end{cases}  
也就是说，我们置零第i行中的所有非对角线项，但保留\Lambda_{ii}，类似于将变量与其调控因子隔离的敲除扰动。这种干预概念在因果SDE文献中经常被考虑，例如（Hansen和Sokol，2014 (https://arxiv.org/html/2609.19955#bib.bib27)）和（Boeken和Mooij，2024 (https://arxiv.org/html/2609.19955#bib.bib28)），其中一些干预后的SDE被表述为此形式。干预下的修改动态为：  
d\mathbf{x} = (-\widetilde{\bm{\Lambda}}^{(i)} \mathbf{x} + \mathbf{b}) \, dt + \bm{\sigma} \, d\mathbf{W}_t.  
在干预系统中，均值记为\bm{\mu}^{(i)}，满足：  
\bm{\mu}^{(i)} = \mathbb{E}[\mathbf{x}_\infty^{(i)}] = \left( \widetilde{\bm{\Lambda}}^{(i)} \right)^{-1} \mathbf{b},  
(4)  
假设\widetilde{\bm{\Lambda}}^{(i)}可逆。类似地，稳态协方差\bm{\Sigma}^{(i)}满足Lyapunov方程：  
\widetilde{\bm{\Lambda}}^{(i)} \bm{\Sigma}^{(i)} + \bm{\Sigma}^{(i)} \left( \widetilde{\bm{\Lambda}}^{(i)} \right)^\top = \bm{\sigma} \bm{\sigma}^\top.  
(5)  
我们假设对于考虑的每次干预，\widetilde{\bm{\Lambda}}^{(i)}都是正稳定的，因此干预后的稳态均值和协方差是良定义的。我们的目标是从观测均值和协方差(\bm{\mu}, \bm{\Sigma})以及一组干预均值和协方差\{(\bm{\mu}^{(i)}, \bm{\Sigma}^{(i)})\}_{i \in \mathcal{I}}中恢复OU过程的参数，即\bm{\Lambda}, \mathbf{b}和\mathbf{D}，其中\mathcal{I}是被干预的坐标集合。请注意，参数仅在整体缩放下是可辨识的，因为稳态一阶矩和二阶矩方程在参数整体缩放下是不变的。  

**图定义**：下面，我们简要回顾全文中使用的图论概念：  
- • 强连通分量。对于有向图G，一个*强连通分量（SCC）*是节点的最大子集C，使得对于每一对u, v \in C，存在从u到v的有向路径和从v到u的有向路径。G的SCC构成其节点的划分。  
- • 缩并图。给定G的SCC C_1, \dots, C_K，*缩并图*是一个有向图，其节点对应于SCC，并且当存在从C_i中某个节点到C_j中某个节点的边时，包含有向边C_i \to C_j。根据构造，缩并图总是一个有向无环图（DAG）。根（或源）SCC没有来自另一个SCC的入边。该DAG的连通性指的是其底层无向图；在有限SCC情况下，存在唯一根可以到达每个SCC。  
- • SCC上的拓扑顺序。SCC的*拓扑顺序*是缩并图节点的任意排序，使得所有有向边都从较早的分量指向较后的分量。等价地，C_i可能在C_j之前出现在顺序中，当且仅当在缩并图中不存在从C_j到C_i的有向路径。  

## 3 可辨识性结果  
对于漂移矩阵\bm{\Lambda}，通过考虑当且仅当\Lambda_{ij} \neq 0时存在边j \to i，定义其关联的有向图G(\bm{\Lambda})。在下文中，首先考虑G(\bm{\Lambda})是强连通的情况。在某些谱/秩非退化假设下，我们证明只需在任意坐标上进行一次干预，通常即可恢复OU过程的参数直至某个整体缩放。然后考虑G(\bm{\Lambda})具有多个SCC的情况。在此设置中，我们首先证明干预均值的变化可以识别SCC以及SCC缩并DAG上的拓扑顺序²。给定此SCC级结构，我们在图兼容模型类中证明，在定理3\.6 (https://arxiv.org/html/2609.19955#S3.Thmtheorem6)的唯一根、干预覆盖和孤立实现假设下，直至单个整体缩放的通用识别。  

### 3.1 单个SCC  
###### 定理 3\.1. 考虑方程1 (https://arxiv.org/html/2609.19955#S2.E1)中具有真实参数\bm{\Lambda}, \mathbf{b}和\bm{D}的OU过程。此外，假设我们可以访问观测稳态均值和协方差(\bm{\mu}, \bm{\Sigma})以及一个干预均值和协方差(\bm{\mu}^{(i)}, \bm{\Sigma}^{(i)})（i可以是任意坐标）。如果图G(\bm{\Lambda})是强连通的并且满足某些谱/秩非退化假设（见附录A\.6 (https://arxiv.org/html/2609.19955#A1.SS6)中的假设A\.1 (https://arxiv.org/html/2609.19955#A1.Thmtheorem1)和A\.2 (https://arxiv.org/html/2609.19955#A1.Thmtheorem2)），通常³，任何其他产生相同观测和干预矩的三元组参数(\widehat{\bm{\Lambda}}, \widehat{\mathbf{b}}, \widehat{\mathbf{D}})必须满足：  
\widehat{\bm{\Lambda}} = c \bm{\Lambda}, \quad \widehat{\mathbf{b}} = c \mathbf{b}, \quad \widehat{\mathbf{D}} = c \bm{D},  
对于某个标量c > 0。  
所有定理的证明（如果未在正文中给出）均可在附录中找到。证明中的关键思想是……