从单一轨迹学习分数阶动力学

arXiv cs.LG 论文

摘要

本文提出分数阶普通最小二乘网格搜索(FO-GS),一种从单一轨迹识别分数阶线性时不变系统的方法,具有理论误差界限和实验验证。

arXiv:2609.18127v1 Announce Type: new 摘要:许多现实世界过程表现出长程依赖性,其中当前状态依赖于过去状态的缓慢衰减痕迹,而不仅仅是最近的状态。本文研究了从长度为$t$的单一观测轨迹中对离散时间分数阶线性时不变系统进行系统识别,该设置通过Gr\"unwald--Letnikov差分算子捕获这种非马尔可夫动力学。与马尔可夫系统不同,分数阶系统在整个历史过程中耦合估计,使得统计分析和实际识别更具挑战性。我们提出\emph{分数阶普通最小二乘网格搜索(FO-GS)},一个简单的两阶段估计器,利用分数阶差分算子的对角结构逐行解耦识别问题。在稳定性假设下,我们建立了在异构设置中估计分数阶和系统矩阵的高概率非渐近误差界限,两个估计误差均按\(\mathcal{O}(t^{-1/2})\)缩放。通过实验,我们表明\emph{FO-GS}在恢复分数阶和基础系统动力学方面优于现有基准。
查看原文
查看缓存全文

缓存时间: 2026/09/17 09:15

# 从单一轨迹源学习分数阶动力学

Xiaole Zhang  
隶属机构:南加州大学 Ming Hsieh 电气与计算机工程系  
Ziyi Zhang  
Zehao Zhao  
隶属机构:南加州大学 Ming Hsieh 电气与计算机工程系  
Stephen Tu  
隶属机构:南加州大学 Ming Hsieh 电气与计算机工程系  
Guannan Qu  
隶属机构:卡内基梅隆大学电气与计算机工程系  
Yorie Nakahira  
隶属机构:卡内基梅隆大学电气与计算机工程系  
Paul Bogdan  
隶属机构:南加州大学 Ming Hsieh 电气与计算机工程系

###### 摘要
许多现实世界的过程表现出长程依赖性,即当前状态取决于缓慢衰减的过去状态轨迹,而非仅取决于最近的状态。本文研究了从单一长度为 t 的观测轨迹中,对离散时间分数阶线性时不变系统进行系统辨识的问题,该设定通过 Grünwald–Letnikov 差分算子捕捉此类非马尔可夫动力学。与马尔可夫系统不同,分数阶系统将估计与整个历史耦合,使得统计分析和实际辨识都更具挑战性。我们提出了**分数阶普通最小二乘网格搜索(FO-GS)**,这是一种简单的两阶段估计器,它利用分数差分算子的对角结构,按行分解辨识问题。在稳定性假设下,我们建立了异构设置下分数阶和系统矩阵估计的高概率、非渐近误差界,两种估计误差均按 O(t⁻¹/√t) 缩放。通过实验,我们展示了 FO-GS 在恢复分数阶和底层系统动力学方面优于现有基线方法。

## 1 引言
许多复杂自然和技术系统表现出长程依赖性,这是一种时间相关性按幂律而非指数衰减的现象。长程依赖性已被广泛记录于不同领域,包括大脑活动 [article, lundstrom2008fractional]、心率变异性 [doi:10.1073/pnas.012579499, ivanov1999multifractality]、气候与水文学 [doi:10.1061/TACEAT.0006518, https://doi.org/10.1029/WR005i002p00321]、网络流量 [Leland1993OnTS, willinger2003long]、金融 [https://doi.org/10.1111/1468-0262.00418, DING199383],甚至现代机器学习系统如大型语言模型 [alabdulmohsin2025a, alabdulmohsin2024fractal]。经典马尔可夫模型本身不适合捕捉长程依赖性,因为它们的动力学仅依赖于当前状态,因此缺乏编码持久历史影响和长程相关性的机制。相比之下,分数阶系统提供了一种自然的替代方案:Grünwald–Letnikov 差分算子用对完整历史的加权和替代了整数阶系统中的一步递归 [hilfer2000applications, ionescu2017role, monje2010fractional, oldham1974fractional]。虽然这种非局部数学表述使分数阶模型特别适合描述历史依赖性动力学,但它也给系统辨识带来了重大挑战。

辨识分数阶系统的主要挑战在于其固有的非马尔可夫性:当前状态以非平凡方式依赖于长期的过去状态历史,且未知的分数阶通过 Grünwald–Letnikov 差分算子的系数来控制这种依赖性。因此,联合估计分数阶和系统矩阵会导致一个具有长程依赖性的非线性推断问题。近期工作研究了离散时间分数阶系统的学习和样本复杂度问题 [chatterjee2022learning, yaghooti2023inferring, 11107451, zhang2025endtoend],但从单一轨迹学习随机分数阶系统的统计保证仍待探索。请参阅标题图 1:复杂自适应系统表现出非马尔可夫动力学,其数学特征为长程依赖性。从生物系统到现代机器学习系统(左图),自相关函数按幂律而非指数衰减(中图)。具有内在幂律记忆核的分数阶算子提供了紧凑的数学策略来捕捉所观察到的长程依赖性动力学(右图)。

为填补这一知识空白,我们研究分数阶线性时不变(FOLTI)系统:
$$\Delta^{\boldsymbol{\alpha}}x_{s+1} = Ax_s + \eta_s,$$
其中 $\Delta^{\boldsymbol{\alpha}}$ 表示 Grünwald–Letnikov 差分算子 (1),$\boldsymbol{\alpha} \in (0,1)^n$ 是分数阶向量,$x_s \in \mathbb{R}^n$ 是时间 $s$ 的 n 维状态,$\eta_s \sim \mathcal{N}(0, \sigma^2 I_n)$ 是方差为 $\sigma^2$ 的加性高斯噪声。我们的目标是在给定单一观测轨迹 $x_0, x_1, \dots, x_t$ 的情况下,估计分数阶 $\boldsymbol{\alpha}$ 和系统矩阵 $A \in \mathbb{R}^{n \times n}$。我们考虑两种设置:异构设置,其中各坐标在分数导数中可能具有不同的分数阶系数;以及同构设置,其中所有坐标共享一个公共分数阶。核心问题在于是否能在这种真正的非马尔可夫状态下获得计算简单的估计器及非渐近保证。

此问题有两个相互交织的挑战:首先,分数阶差分算子将每个观测与整个过去轨迹耦合,因此标准的马尔可夫辨识论证不能直接应用。其次,对未知分数阶 $\boldsymbol{\alpha}$ 的依赖是非线性的,这使得即使在线性时不变动力学中,对 $\boldsymbol{\alpha}$ 和 $A$ 的联合优化也很困难。在单一轨迹设置中,这些困难因强时间依赖性和缺乏独立运行而加剧。

**我们的贡献。** 与传统基于普通最小二乘(OLS)的系统辨识算法不同,我们提出了**分数阶 OLS 网格搜索(FO-GS)**算法,这是一种从单一轨迹对随机离散时间 FOLTI 系统进行辨识的两阶段方案。利用 Grünwald–Letnikov 差分算子的对角结构,我们独立地辨识 $A$ 的每一行和 $\boldsymbol{\alpha}$ 的每个坐标;沿每个维度,FO-GS 建立一个包含所有可能 $\alpha_i$ 的网格,步长固定为 $\epsilon_i$,然后在每个候选 $\alpha_i$ 条件下估计系统矩阵 $A$ 的第 i 行 $a_i$。接着,评估每一对 $(\alpha_i, a_i)$ 以最小化一个轮廓损失来选择最佳候选。特别地,我们证明在稳定性假设下,FO-GS 可以以高概率成功恢复真实参数 $\boldsymbol{\alpha}$ 和 $A$,两种估计误差均按 O(t⁻¹/√t) 缩放。据我们所知,FO-GS 首次为在单一轨迹上分别辨识 FOLTI 系统的 $\boldsymbol{\alpha}$ 和 $A$ 提供了非渐近统计保证。我们在合成数据和真实数据集上验证了 FO-GS。总之,FO-GS 为从有限序列数据学习分数阶动力系统提供了一个原则性框架,从而将可辨识系统类的范围大大扩展到标准马尔可夫设置之外。

## 2 相关工作
我们的工作植根于新近发展的分数阶系统辨识分支,其灵感来自针对普通线性时不变系统的在线学习与辨识。
**在单一轨迹上学习普通线性时不变系统。** 普通线性时不变系统的辨识有着悠久的研究历史 [Oymak18, Sarkar18, pmlr-v75-simchowitz18a, Sun20, zhang2025learning, zhang2025stabilizing, Zheng201]。与这些工作相比,我们的算法借鉴了许多方法学和证明技巧,并通过将传统的基于 OLS 的辨识方法与对每个 $\boldsymbol{\alpha}$ 坐标和 $A$ 每行的网格搜索方案相结合,利用了 Grünwald–Letnikov 差分算子的对角结构,将研究范围扩展到更广泛的非马尔可夫系统动力学。如果 $\boldsymbol{\alpha} = \boldsymbol{1}$ 且分数阶系统简化为普通线性时不变系统,FO-GS 提供的理论保证可与普通线性时不变系统中最先进的保证相媲美。

**FOLTI 系统的辨识。** 虽然普通线性时不变系统的系统辨识是一个相对成熟的领域,但针对分数阶系统的关注则少得多 [1971712334804565506, monje2010fractional, podlubny1998fractional]。当可以采样多条轨迹时,一些工作已在分数阶系统辨识方面取得进展。yaghooti2023inferring 提出了一个两阶段辨识框架,首先从规定数据收集程序生成的轨迹数据中估计分数阶参数,然后在此估计基础上,将离散时间控制仿射非线性分数阶动力学重新表述为回归问题,以推断未知的系统动力学。11107451, zhang2025endtoend 将此框架推广到随机设置。chatterjee2022learning 通过系统截断研究了分数阶系统的单一轨迹辨识,并建立了增广系统矩阵的样本复杂度结果。相比之下,我们直接研究原始的单一轨迹辨识问题,既不要求数据生成,也不要求系统截断,并首次为分数阶参数 $\boldsymbol{\alpha}$ 和系统矩阵 $A$ 建立了非渐近保证。

## 3 预备知识与问题表述
### 3.1 Grünwald–Letnikov 差分算子
Grünwald–Letnikov 差分算子允许将分数阶导数离散化并表示为如下形式的有限差分:
$$\Delta^{\boldsymbol{\alpha}}x_s := \sum_{j=0}^{s} \Psi(\boldsymbol{\alpha}, j) x_{s-j}, \tag{1}$$
其中 $x_s \in \mathbb{R}^n$,$\boldsymbol{\alpha} = [\alpha_1, \alpha_2, \ldots, \alpha_n]^\top \in (0,1)^n$ 表示分数阶,$\Psi(\boldsymbol{\alpha}, j) \in \mathbb{R}^{n \times n}$ 是一个对角矩阵,定义为:
$$\Psi(\boldsymbol{\alpha}, j) := \operatorname{diag}(\psi(\alpha_1, j), \psi(\alpha_2, j), \ldots, \psi(\alpha_n, j)),$$
其中 $\psi(\alpha_i, j) := \frac{\Gamma(j - \alpha_i)}{\Gamma(-\alpha_i) \Gamma(j+1)}$,对于 $i=1,2,\ldots,n$。这里 $\Gamma(\cdot)$ 表示伽马函数。

### 3.2 FOLTI 系统辨识
离散时间 FOLTI 系统的状态空间表示为:
$$\Delta^{\boldsymbol{\alpha}}x_{s+1} = Ax_s + \eta_s, \tag{2}$$
其中 $x_s \in \mathbb{R}^n$ 是状态向量,$\eta_s \sim \mathcal{N}(0, \sigma^2 I_n)$(对于某个 $\sigma > 0$)独立同分布,$A \in \mathbb{R}^{n \times n}$ 是一个常数实矩阵。利用 Grünwald–Letnikov 差分算子 (1),我们可以将系统 (2) 写成如下形式:
$$x_{s+1} = Ax_s - \sum_{j=1}^{s+1} \Psi(\boldsymbol{\alpha}, j) x_{s+1-j} + \eta_s. \tag{3}$$
离散时间 FOLTI 系统 (2) 的解由下式给出 [guermah2012discrete]:
$$x_s = G_s x_0 + \sum_{j=0}^{s-1} G_{s-1-j} \eta_j,$$
其中矩阵 $G_s$ 递归定义如下:
$$
G_s = \begin{cases} 
I, & s=0, \\ 
\sum_{j=0}^{s-1} A_j G_{s-1-j}, & s \geq 1, 
\end{cases}
\quad
A_j = \begin{cases} 
A + \operatorname{diag}(\alpha_1, \ldots, \alpha_n), & j=0, \\ 
-\Psi(\boldsymbol{\alpha}, j+1), & j \geq 1. 
\end{cases} \tag{4}
$$

**问题陈述:** 给定单一观测轨迹 $x_0, x_1, \dots, x_t$,我们的目标是辨识分数阶 $\boldsymbol{\alpha}$ 和系统矩阵 $A$,并为所得估计器建立统计保证。

## 4 主要结果
在本节中,我们将在第 4.1 节介绍辨识系统参数 $\boldsymbol{\alpha}$ 和 $A$ 的算法,并在第 4.2 节展示所得估计器的样本复杂度结果。

### 4.1 FO-GS 算法
**算法 1** 分数阶 OLS 网格搜索(FO-GS)
1: 轨迹 $\{x_s\}_{s=0}^t$,行搜索区间 $[\underline{\alpha}_i, \bar{\alpha}_i]$,网格大小 $\epsilon_i$。
2: 估计 $\hat{\boldsymbol{\alpha}} = [\hat{\alpha}_1, \dots, \hat{\alpha}_n]^\top$ 和 $\hat{A}$。
3: 构建网格 $\mathcal{A}_{\epsilon,i} \subset [\underline{\alpha}_i, \bar{\alpha}_i]$。
4: 用 (9) 构建数据矩阵 $X_t$。
5: **for** $i=1,\dots,n$ **do**
6:  **for each** $\alpha \in \mathcal{A}_{\epsilon,i}$ **do**
7:   用 (5) 计算分数差分行 $\Delta^{\alpha}X_t^{(i)}$。
8:   用 (7) 计算最小二乘行估计量 $\hat{a}_i(\alpha)$。
9:   用 (8) 计算轮廓损失 $\mathcal{L}^{(i)}(\alpha)$。
10:  **end for**
11: 选择 $\hat{\alpha}_i \leftarrow \arg\min_{\alpha \in \mathcal{A}_{\epsilon,i}} \mathcal{L}^{(i)}(\alpha)$。
12: 设置 $\hat{a}_i \leftarrow \hat{a}_i(\hat{\alpha}_i)$。
13: **end for**
14: 形成 $\hat{\boldsymbol{\alpha}} \leftarrow [\hat{\alpha}_1, \dots, \hat{\alpha}_n]^\top$ 和 $\hat{A} \leftarrow [\hat{a}_1^\top, \dots, \hat{a}_n^\top]^\top$。
15: **return** $(\hat{\boldsymbol{\alpha}}, \hat{A})$。

我们介绍了从单一观测轨迹辨识 FOLTI 系统 (2) 的参数 $(\boldsymbol{\alpha}, A)$ 的算法。主要思想是利用 Grünwald–Letnikov 差分算子的对角结构隔离 $\boldsymbol{\alpha}$ 的每个坐标,对于每个候选值,求解一个 OLS 问题来估计 $A$。为处理一般的分数阶设置,算法 1(第 4.1 节)概述了所提出的方法。

相似文章

平滑移动:用多项式驾驭轨迹

Hacker News Top

本文介绍了如何使用多项式,特别是 Smoothstep 函数,通过匹配位置的导数(速度、加速度、加加速度等)来生成机器人和 3D 打印机的平滑运动轨迹,从而避免不连续性。