潜变量李-泊松神经网络（LLPNNs）：通过可观测数据和潜动态发现李-泊松系统的运动

# 潜变量李-泊松神经网络（LLPNNs）：通过可观测数据与潜变量动力学发现李-泊松系统的运动  
来源：https://arxiv.org/html/2607.28939  

###### 摘要  
保持结构的神经网络对于从数据中对哈密顿系统进行长期预测至关重要。力学与控制中的许多重要哈密顿系统允许通过对称约化简化为李–泊松系统，包括刚体、水下航行器、流体、等离子体以及最优控制问题。学习此类系统的一个基本挑战在于，其动力学演化所依赖的动量变量通常是不可观测的，而可用的数据仅包含诸如构型和速度之类的可观测物理量。在最优控制应用中，情况更为复杂，因为潜变量中包含不可观测的协态（拉格朗日乘子），且约化后的哈密顿量可能是退化的，从而不允许存在相应的拉格朗日函数，导致编码器–解码器方法无法适用。我们提出*潜变量李–泊松神经网络*（LLPNNs），这是一个直接从可观测数据学习李–泊松动力学的保结构框架。该方法利用三个几何要素：（i）在活跃变量上学习哈密顿解码器或伪拉格朗日编码器，（ii）通过由李–泊松对称约化导出的普适诺特定理构造潜变量轨迹，（iii）通过李–泊松流结合基于Magnus的李群更新重构可观测与潜变量的动力学。所得方法保持了底层几何结构，并且同时适用于正则和退化哈密顿系统。我们在三个代表性示例上验证了该方法：SO\(3\)上的广义刚体、SE\(3\)上的Kirchhoff水下航行器，以及SE\(2\)^N上相互作用车辆的最优控制问题。数值实验表明，该方法在仅使用适度数据集和轻量级神经网络架构的情况下，仍能获得出色的长期预测精度、对噪声的强鲁棒性以及有竞争力的性能。

###### 关键词：保结构学习、对称约化、李–泊松动力学、几何深度学习、潜变量动力学、退化哈密顿量

††期刊：Neural Networks  
\affiliation \[ua\]organization=Department of Mathematics, The University of Alabama, addressline=Gordon Palmer Hall, city=Tuscaloosa, state=AL, postcode=35401, country=USA

## 1 引言与问题陈述

### 1.1 哈密顿系统的物理信息学习

##### 关于学习一般动力系统的已有工作  
数据驱动建模方法的目标是直接从观测中近似控制动力学。物理信息神经网络（PINNs）将微分方程、初始条件和边界条件纳入训练损失，并使用自动微分来计算相应的残差\[52 (https://arxiv.org/html/2607.28939#bib.bib149),38 (https://arxiv.org/html/2607.28939#bib.bib154),14 (https://arxiv.org/html/2607.28939#bib.bib144)\]。该方法已被成功应用于广泛的科学计算问题。神经常微分方程（Neural ODEs）\[9 (https://arxiv.org/html/2607.28939#bib.bib130)\]将向量场 \dot{\mathbf{u}}=\mathbf{f}(\mathbf{u},t) 表示为神经网络，并通过数值积分恢复轨迹。通过直接训练向量场，Neural ODEs 提供了一个学习连续时间潜变量动力学的灵活框架，并启发了科学机器学习中的众多扩展。另一个互补范式是算子学习。深度算子网络（DeepONets）\[45 (https://arxiv.org/html/2607.28939#bib.bib132)\]近似将输入函数映射到解场的非线性算子，并可跨大量初始条件、强迫项或模型参数进行泛化。它们无需重新训练即可快速推理的能力使其在许多计算物理应用中颇具吸引力。尽管这些方法通常能取得出色的预测性能，但它们一般不保持哈密顿系统和泊松系统底层的几何结构。因此，长期预测可能违反守恒量，并偏离物理上可行的轨迹。这一观察促使了显式融入哈密顿、辛或泊松结构的几何机器学习架构的发展。一个更根本的限制出现在许多控制和对称约化力学系统中。在这些问题中，控制方程是针对潜变量动量变量书写的，而可用数据通常仅包含可观测的构型和速度变量。因此，可观测变量不一定构成一个封闭的动力系统。特别是，对于最优控制中出现的退化哈密顿量，可能不存在仅关于可观测变量的自治演化方程，我们将在本文中通过具体示例加以说明。这种支配可观测数据演化的隐藏状态动力学，正是本文所发展框架的动机。

##### 保结构数据驱动建模的已有工作：连续方法  
该领域的一个主导策略旨在直接从实验数据中推断哈密顿函数或底层泊松括号。对于正则系统，这一范式由*哈密顿神经网络（HNNs）*\[23 (https://arxiv.org/html/2607.28939#bib.bib97)\]建立，它通过训练网络满足 \( (1) \) 中的关系来逼近 H(\mathbf{q},\mathbf{p})。通过将这种几何结构直接嵌入损失函数，HNNs 比标准黑箱神经网络获得了显著更高的鲁棒性和轨迹精度。该公式后来被扩展到处理混沌机制和自适应参数\[25 (https://arxiv.org/html/2607.28939#bib.bib103)\]，并在\[15 (https://arxiv.org/html/2607.28939#bib.bib101)\]中给出了此类学习得到的哈密顿量存在性的形式化证明。另一种替代公式由*拉格朗日神经网络（LNNs）*\[13 (https://arxiv.org/html/2607.28939#bib.bib102)\]提供，它直接在坐标-速度空间 (\mathbf{q},\dot{\mathbf{q}}) 中建模欧拉–拉格朗日方程，从而消除了对动量空间进行勒让德变换的需要。对于非正则结构，\[55 (https://arxiv.org/html/2607.28939#bib.bib98)\] 中研究了对向量场的直接学习，但严格强制雅可比恒等式仍是一个主要的开放挑战。最近，有工作提出使用核岭回归从含噪观测中学习泊松系统的哈密顿量\[31 (https://arxiv.org/html/2607.28939#bib.bib148)\]。然而，这些连续方法的一个关键限制是，真实哈密顿量只能在相差一个任意卡西米尔函数的意义下被辨识，这给使用标准机器学习优化来唯一确定它带来了困难。此外，连续时间方法假设一旦学习到向量场，就可以通过标准数值积分获得轨迹。然而，使用普通数值求解器在长时间范围内模拟哈密顿系统通常会违反基本守恒律。保持这些几何性质需要使用变分积分器\[48 (https://arxiv.org/html/2607.28939#bib.bib114),42 (https://arxiv.org/html/2607.28939#bib.bib100),24 (https://arxiv.org/html/2607.28939#bib.bib99)\]。虽然这些专用积分器能将动量类映射保持到机器精度，但与标准显式求解器相比，它们通常计算开销较大。

##### 通过保结构离散映射学习哈密顿系统  
几何机器学习中的一个主要研究方向是设计尊重物理系统底层数学结构的数据驱动架构。大多数现有工作处理的是*正则*哈密顿系统，其状态向量定义在 \(2n\) 维相空间上，记为 \mathbf{u}=(\mathbf{q},\mathbf{p})，其中 \mathbf{q} 和 \mathbf{p} 分别表示广义坐标和广义动量。在此公式下，状态的时间演化由哈密顿函数 H(\mathbf{q},\mathbf{p}) 通过向量场 \dot{\mathbf{u}}=\mathbf{f}(\mathbf{u}) 控制，其中算子 \mathbf{f} 表示为：

\[
\mathbf{f}=\mathbb{J}
abla_{\mathbf{u}}H\,,\quad
\mathbb{J}=\left(\begin{array}{cc}0&\mathbb{I}_n\\ -\mathbb{I}_n&0\end{array}\right)\,,\quad
\Leftrightarrow\quad
\dot{\mathbf{q}}=\frac{\partial H}{\partial\mathbf{p}}\,,\quad
\dot{\mathbf{p}}=-\frac{\partial H}{\partial\mathbf{q}}\,,
\tag{1}
\]

其中 \(\mathbb{I}_n\) 表示 \(n\times n\) 的单位矩阵。对于任意光滑函数 F(\mathbf{q},\mathbf{p})，其沿 \( (1) \) 的轨迹的演化由正则泊松括号决定：

\[
\frac{dF}{dt}=\{F,H\}=\frac{\partial F}{\partial\mathbf{q}}\cdot\frac{\partial H}{\partial\mathbf{p}}-\frac{\partial H}{\partial\mathbf{q}}\cdot\frac{\partial F}{\partial\mathbf{p}}\,.
\tag{2}
\]

除了正则括号 \( (2) \) 之外，还存在非正则泊松括号，精确定义见第2.1节。由这些非正则括号控制的动力系统称为泊松系统。非正则泊松系统的一个关键特征是存在非平凡零空间，从而产生称为*卡西米尔不变量*（或*卡西米尔*）的守恒量。这些不变量是泊松括号结构本身固有的，并且无论控制系统的具体哈密顿量如何都保持不变。本文专注于为这类高度重要的非正则泊松系统开发数据驱动计算方法。

为了克服连续积分的挑战，我们采用一种不同的视角：直接学习离散的、保结构的相空间变换。对于正则动力学，庞加莱定理表明，将初始状态映射到其在时间 \(t\) 时构型的流形 \(\boldsymbol{\phi}_t(\mathbf{u})\) 是一个辛变换\[1 (https://arxiv.org/html/2607.28939#bib.bib115),46 (https://arxiv.org/html/2607.28939#bib.bib116),51 (https://arxiv.org/html/2607.28939#bib.bib172)\] 。数学上，对于 \mathbf{u}=(\mathbf{q},\mathbf{p})，流映射 \(\boldsymbol{\phi}_t(\mathbf{u})\) 必须满足：

\[
\left(\frac{\partial\boldsymbol{\phi}}{\partial\mathbf{u}}\right)^T\mathbb{J}\left(\frac{\partial\boldsymbol{\phi}}{\partial\mathbf{u}}\right)=\mathbb{J}\,.
\tag{3}
\]

与学习向量场然后进行积分不同，一些工作提出直接从数据学习这些辛映射。该领域的早期框架包括*辛递归神经网络（SRNNs）*\[11 (https://arxiv.org/html/2607.28939#bib.bib94)\]，它通过将离散辛数值格式嵌入网络架构来强制辛性。该方法表明，结构保持显著降低了对观测噪声的敏感性。类似地，*不可分辛神经网络（NSSNNs）*\[62 (https://arxiv.org/html/2607.28939#bib.bib104)\]利用\[56 (https://arxiv.org/html/2607.28939#bib.bib96)\]中的显式积分算法来处理不可分哈密顿量。近年来，基于辛积分器的HNNs也被开发出来，用于从含噪数据计算有效哈密顿量\[12 (https://arxiv.org/html/2607.28939#bib.bib111)\] 。从拉格朗日视角出发，速度相空间 (\mathbf{q},\dot{\mathbf{q}}) 中的离散映射框架在\[54 (https://arxiv.org/html/2607.28939#bib.bib192)\]中得到了探索，并最近扩展到包含非保守耗散系统和热力学系统\[18 (https://arxiv.org/html/2607.28939#bib.bib139)\]。学习辛映射的进一步进展主要由三种架构推动\[35 (https://arxiv.org/html/2607.28939#bib.bib121),8 (https://arxiv.org/html/2607.28939#bib.bib78)\]。首先，*SympNets*\[35 (https://arxiv.org/html/2607.28939#bib.bib121)\]通过组合专门的保结构神经网络层来构造辛映射。其次，*生成函数神经网络（GFNNs）*\[8 (https://arxiv.org/html/2607.28939#bib.bib78)\]使用生成函数参数化离散流，从而为长期跟踪误差提供严格界限。第三，*HénonNets*\[7 (https://arxiv.org/html/2607.28939#bib.bib151)\]通过组合类Hénon变换来构建辛映射，以学习庞加莱映射。这些架构在模拟可积系统（如单摆和轨道力学）和混沌动力学（如三体问题）方面均表现出卓越的性能。

##### 基于数据学习泊松系统的已有工作  
如果对称约化后的动量 \mu 已知（这在我们所考虑的问题中并不成立），已有若干方法被提出用于构造保结构学习过程。近期工作\[19 (https://arxiv.org/html/2607.28939#bib.bib140),20 (https://arxiv.org/html/2607.28939#bib.bib127)\]利用了任意哈密顿函数的相流构成泊松映射这一性质，即它保持泊松括号\[46 (https://arxiv.org/html/2607.28939#bib.bib116)\]。这些架构考虑由特殊形式的“测试”哈密顿量生成的流，其运动方程可以简化并解析求解，从而为李–泊松神经网络层提供数学基础。通过组合多个此类泊松映射，\[19 (https://arxiv.org/html/2607.28939#bib.bib140)\]中的神经网络优化这些测试哈密顿量的参数，以匹配观测到的相空间轨迹。这种序列使网络能够以高精度重建整个相空间上的流，且仅需使用小型数据集和轻量级参数化。至关重要的是，这种构造确保卡西米尔不变量被保持到机器精度，而独立于训练数据或优化质量。该工作最近被扩展到相互作用自主车辆的最优控制问题\[32 (https://arxiv.org/html/2607.28939#bib.bib129)\]，其中李–泊松变换被推广为结合依赖于对称约化动量的个体神经网络。这种结构使得由李–泊松变换构建的网络能够获得完备性结果。这些先前的工作凸显了利用精确李–泊松结构而非将动力学视为无约束向量场学习问题的价值。在本文中，我们将对称群及其李–泊松括号视为已知几何数据，同时从观测中学习物理或控制哈密顿量。这种分离是本文框架的关键前提。