基于贝叶斯滤波的噪声测量下拉格朗日动力学学习方法

# 一种基于贝叶斯滤波的含噪测量拉格朗日动力学学习方法

来源：https://arxiv.org/html/2606.31137
Kundan Kumar∗, Shreya Das∗, and Simo Särkkä∗共同贡献作者。K. Kumar 就职于印度艾哈迈达巴德大学工程与应用科学学院（电子邮箱：[email protected]）。S. Das 就职于印度理工学院（BHU）瓦拉纳西分校电气工程系（电子邮箱：[email protected]）。K. Kumar 和 S. Särkkä 就职于芬兰阿尔托大学电气工程与自动化系及芬兰ELLIS研究所（电子邮箱：{kundan.kumar; simo.sarkka}@aalto.fi）。

###### 摘要

本文提出了一种基于贝叶斯滤波的方法，用于从部分有噪测量中学习物理系统的动力学。我们使用拉格朗日力学公式对系统动力学进行建模。与拉格朗日神经网络（LNNs）类似，我们用神经网络参数化动能和势能。拉格朗日公式中的未知外力被建模为高斯白噪声。相应的欧拉–拉格朗日方程由此产生一个描述系统动力学的连续时间随机状态空间模型（SSM）。然后，通过使用基于高斯近似的贝叶斯滤波器的最大似然方法，联合学习神经网络参数和系统状态。通过在摆和达芬振子示例上的实验验证了所提方法的有效性，并将其性能与传统的LNNs以及使用已知系统模型的近似贝叶斯滤波器进行了比较。

###### 索引词：

拉格朗日神经网络，欧拉–拉格朗日方程，贝叶斯滤波，状态与参数估计，部分测量。

## I. 引言

物理系统动力学的精确建模在许多应用中至关重要，包括机器人学[30](https://arxiv.org/html/2606.31137#bib.bib43)、工业自动化[25](https://arxiv.org/html/2606.31137#bib.bib40)、导航[12](https://arxiv.org/html/2606.31137#bib.bib47)、健康技术[27](https://arxiv.org/html/2606.31137#bib.bib46),[28](https://arxiv.org/html/2606.31137#bib.bib36)和目标跟踪[20](https://arxiv.org/html/2606.31137#bib.bib45)。在许多应用中，由于物理过程部分或完全未知，无法从第一原理构建模型。在这些情况下，可以将系统视为未知，并使用神经网络（NNs）[24](https://arxiv.org/html/2606.31137#bib.bib21),[6](https://arxiv.org/html/2606.31137#bib.bib25)、基函数展开[31](https://arxiv.org/html/2606.31137#bib.bib22)或高斯过程回归[32](https://arxiv.org/html/2606.31137#bib.bib23),[29](https://arxiv.org/html/2606.31137#bib.bib24)等方法来从数据中学习动力学模型。然而，纯数据驱动的方法通常需要大量训练数据，并且常常无法遵守已知的物理定律。物理信息神经网络（PINNs）通过将数据驱动学习与物理约束相结合，解决了这些局限性，从而在减少数据需求的同时提高了泛化能力和可解释性[15](https://arxiv.org/html/2606.31137#bib.bib26),[5](https://arxiv.org/html/2606.31137#bib.bib27),[13](https://arxiv.org/html/2606.31137#bib.bib28)]。

参见图注
图1：所提方法的示意图。拉格朗日量 \(L\) 的动能 \(T\) 和势能 \(V\) 使用神经网络（NNs）参数化。带有随机输入的欧拉–拉格朗日方程被重写为状态空间模型。状态和神经网络参数通过近似贝叶斯滤波器联合估计。拉格朗日神经网络（LNNs）是一类利用拉格朗日公式学习系统动力学的PINNs[7](https://arxiv.org/html/2606.31137#bib.bib2)。通过利用拉格朗日公式，LNNs将物理定律（如能量守恒）直接融入学习过程。深度拉格朗日神经网络（DeLaN）在[23](https://arxiv.org/html/2606.31137#bib.bib20)中被引入，作为一种实时学习机器人系统运动方程的物理信息方法。后续工作将该框架扩展到通过逆学习对系统能量和摩擦进行建模，并在真实机器人任务和强化学习中展示了其有效性[21](https://arxiv.org/html/2606.31137#bib.bib4),[22](https://arxiv.org/html/2606.31137#bib.bib6),[8](https://arxiv.org/html/2606.31137#bib.bib49)]。

现有的LNN公式通常假设能够访问完整的系统状态，包括广义速度，这在真实世界环境中往往是不现实的。当只测量广义坐标时，原则上可以通过数值微分获得广义速度[3](https://arxiv.org/html/2606.31137#bib.bib41)。然而，这种方法在通用性上有限，会放大测量噪声，并且可能显著降低性能。在本文中，我们提出了一种替代方法，其中使用近似贝叶斯滤波器，如扩展卡尔曼滤波器（EKF）[4](https://arxiv.org/html/2606.31137#bib.bib32),[26](https://arxiv.org/html/2606.31137#bib.bib9)或sigma点滤波器[2](https://arxiv.org/html/2606.31137#bib.bib29),[34](https://arxiv.org/html/2606.31137#bib.bib30),[14](https://arxiv.org/html/2606.31137#bib.bib31)，在LNN学习任务的同时，从部分有噪测量中联合估计完整的系统状态。在这种方法中，用于参数化拉格朗日量的神经网络通过在滤波器之上实现的参数估计过程进行训练，因此训练过程明确地考虑了测量的部分性和噪声。

具体而言，本文的主要贡献如下（另见图1 (https://arxiv.org/html/2606.31137#S1.F1)）：

- • 我们在贝叶斯状态估计框架内，公式化了从部分有噪测量中学习拉格朗日动力学的问题。
- • 我们将进入欧拉–拉格朗日方程的未知力和不确定性建模为高斯白噪声，这导致了一个连续时间随机状态空间模型（SSM）。
- • 使用神经网络参数化拉格朗日量的动能和势能，并将其嵌入欧拉–拉格朗日方程。
- • 我们采用近似贝叶斯滤波方法，从部分观测中联合估计系统状态并学习神经网络参数。

与传统依赖全状态观测的LNNs不同，所提出的方法使用有噪的部分观测。通过数值实验展示了其有效性，并将其性能与使用已知模型的传统LNNs和高斯近似贝叶斯滤波器进行了比较。

## II. 拉格朗日公式

拉格朗日力学是一种通过系统的动能和势能来表达系统动力学的方式[10](https://arxiv.org/html/2606.31137#bib.bib42),[17](https://arxiv.org/html/2606.31137#bib.bib48)。考虑一个具有广义坐标 \(q=(q_1,q_2,\ldots,q_n)\) 和相应广义速度 \(\dot{q}=\frac{dq}{dt}\) 的系统。假设势能是定义在构型空间上的标量函数 \(V(q)\)，并且仅依赖于广义坐标 \(q\)。动能 \(T(q,\dot{q})\) 可以是广义坐标 \(q\) 和速度 \(\dot{q}\) 的函数，尽管它通常只依赖于 \(\dot{q}\)。那么拉格朗日量可以写成以下形式[10](https://arxiv.org/html/2606.31137#bib.bib42), p. 35]：

\[
L(q,\dot{q})=T(q,\dot{q})-V(q). \tag{1}
\]

对应系统的欧拉–拉格朗日方程由下式给出[10](https://arxiv.org/html/2606.31137#bib.bib42), p. 48]：

\[
\frac{d}{dt}\frac{\partial L(q,\dot{q})}{\partial \dot{q}}-\frac{\partial L(q,\dot{q})}{\partial q}=\eta_{\tau}, \tag{2}
\]

其中项 \(\eta_{\tau}\) 考虑了非保守效应，包括外力。通过应用链式法则，式(2)变为：

\[
\frac{\partial^{2}L(q,\dot{q})}{\partial q\partial\dot{q}}\dot{q}+\frac{\partial^{2}L(q,\dot{q})}{\partial\dot{q}\partial\dot{q}}\ddot{q}-\frac{\partial L(q,\dot{q})}{\partial q}=\eta_{\tau}. \tag{3}
\]

我们假设海森矩阵 \(\frac{\partial^{2}L(q,\dot{q})}{\partial\dot{q}\partial\dot{q}}\) 是非奇异的。那么上述方程(3)可以显式地求解广义加速度 \(\ddot{q}\)，如下所示：

\[
\ddot{q}=\left[\frac{\partial^{2}L(q,\dot{q})}{\partial\dot{q}\partial\dot{q}}\right]^{-1}\left[\eta_{\tau}+\frac{\partial L(q,\dot{q})}{\partial q}-\frac{\partial^{2}L(q,\dot{q})}{\partial q\partial\dot{q}}\dot{q}\right]. \tag{4}
\]

现在我们可以将以下项建模为白噪声：

\[
\eta\approx\left[\frac{\partial^{2}L(q,\dot{q})}{\partial\dot{q}\partial\dot{q}}\right]^{-1}\eta_{\tau}, \tag{5}
\]

其中 \(\eta\) 是高斯白噪声，其谱密度为 \(Q_c\)。利用 (4) 和 (5)，系统的连续时间动力学可以用状态向量 \([q\ \dot{q}]^{\top}\) 表示为一阶随机状态空间形式，如下所示：

\[
\begin{split}
\frac{d}{dt}\begin{bmatrix} q \\ \dot{q} \end{bmatrix}=\begin{bmatrix} \dot{q} \\ \left[\frac{\partial^{2}\left(L(q,\dot{q})\right)}{\partial\dot{q}\partial\dot{q}}\right]^{-1}\,\left[\frac{\partial\left(L(q,\dot{q})\right)}{\partial q}-\frac{\partial^{2}\left(L(q,\dot{q})\right)}{\partial q\partial\dot{q}}\dot{q}\right] \end{bmatrix}+\begin{bmatrix} 0 \\ \eta \end{bmatrix}.
\end{split} \tag{6}
\]

## III. 所提方法

在本节中，我们开发了一个贝叶斯估计框架，在拉格朗日公式的框架内，从部分有噪测量中联合学习系统动力学并估计系统状态。

### III-A. LNN学习与贝叶斯滤波

假设动能和势能 \(T(q,\dot{q})\) 和 \(V(q)\) 先验未知，因此系统的拉格朗日量 \(L(q,\dot{q})\) 是未知的。为了学习系统动力学，我们的目标是利用合适的函数逼近器类，从可用的测量中推断未知的能量函数。在这项工作中，我们采用基于神经网络的方法来逼近能量函数。这与拉格朗日神经网络（LNNs）中使用的方法相同[7](https://arxiv.org/html/2606.31137#bib.bib2),[23](https://arxiv.org/html/2606.31137#bib.bib20),[21](https://arxiv.org/html/2606.31137#bib.bib4),[22](https://arxiv.org/html/2606.31137#bib.bib6)]。

未知的 \(T(q,\dot{q})\) 和 \(V(q)\) 使用神经网络近似如下：

\[
\begin{split}
T(q,\dot{q}) &\approx T_{\text{NN}}(q,\dot{q};\mu), \\
V(q) &\approx V_{\text{NN}}(q;\mu),
\end{split} \tag{7}
\]

其中 \(T_{\text{NN}}\) 和 \(V_{\text{NN}}\) 表示神经网络（NNs），\(\mu\) 表示可学习的参数（权重和偏置）。那么 (6) 中的加速度项可以近似为：

\[
\ddot{q}\approx f(q,\dot{q};\mu)+\eta, \tag{8}
\]

其中

\[
\begin{split}
L_{\text{NN}}(q,\dot{q};\mu) &= T_{\text{NN}}(q,\dot{q};\mu)-V_{\text{NN}}(q;\mu), \\
f(q,\dot{q};\mu) &=\left[\frac{\partial^{2}\left(L_{\text{NN}}(q,\dot{q};\mu)\right)}{\partial\dot{q}\partial\dot{q}}\right]^{-1} \\
&\quad\times\left[\frac{\partial\left(L_{\text{NN}}(q,\dot{q};\mu)\right)}{\partial q}-\frac{\partial^{2}\left(L_{\text{NN}}(q,\dot{q};\mu)\right)}{\partial q\partial\dot{q}}\dot{q}\right].
\end{split}
\]

在状态估计中[26](https://arxiv.org/html/2606.31137#bib.bib9)，动力系统的状态通常表示为 \(x\)。将状态定义为 \(x=[x_1\ x_2]^{\top}=[q\ \dot{q}]^{\top}\in\mathbb{R}^{n_x}\)，则 (6) 可以重写为：

\[
\begin{bmatrix} \frac{dx_1}{dt} \\ \frac{dx_2}{dt} \end{bmatrix}=\begin{bmatrix} x_2 \\ f(x_1,x_2;\mu) \end{bmatrix}+\begin{bmatrix} 0 \\ \eta \end{bmatrix}. \tag{9}
\]

为了使用贝叶斯滤波进行状态和参数估计，可以使用例如欧拉–丸山方法[28](https://arxiv.org/html/2606.31137#bib.bib36),[26](https://arxiv.org/html/2606.31137#bib.bib9))对连续时间动力学进行离散化。所得的离散时间过程模型形式为：

\[
\begin{bmatrix} x_{1,k} \\ x_{2,k} \end{bmatrix}=\underbrace{\begin{bmatrix} x_{1,k-1}+x_{2,k-1}\Delta t \\ x_{2,k-1}+f(x_{1,k-1},x_{2,k-1};\mu)\Delta t \end{bmatrix}}_{\tilde{f}(x_{k-1};\mu)}+\tilde{\eta}_{k-1},
\]

其中 \(\Delta t\) 是采样间隔，\(\tilde{\eta}_{k-1}\sim\mathcal{N}(0,Q_{k-1})\) 是高斯过程噪声，且 \(Q_{k-1}=\mathrm{diag}(0,Q_c\Delta t)\)，因此具有以下形式：

\[
x_k=\tilde{f}(x_{k-1};\mu)+\tilde{\eta}_{k-1}. \tag{10}
\]

注意，在实践中，通常使用比普通欧拉–丸山更复杂的离散化方法更为有益（例如见[28](https://arxiv.org/html/2606.31137#bib.bib36),[26](https://arxiv.org/html/2606.31137#bib.bib9))）。

我们进一步假设可用数据可以建模为以下测量模型：

\[
y_k = h(x_k) + \nu_k, \tag{11}
\]

其中 \(\nu_k\sim\mathcal{N}(0,R_k)\) 是高斯测量噪声。例如，如果我们只测量广义坐标（而不测量速度），则 \(h(x_k)=x_{1,k}\)，但也可以使用更为通用的测量模型。

方程 (10) 和 (11) 现在定义了一个标准的贝叶斯状态估计问题[26](https://arxiv.org/html/2606.31137#bib.bib9)，其中系统的未知参数是神经网络的权重 \(\mu\)。因此，这一公式使得在贝叶斯框架内进行联合状态和参数估计成为可能。