流形匹配中应变与涡度对数值积分误差的作用

# 应变与涡量在流匹配数值积分误差中的作用
来源：https://arxiv.org/html/2605.06680
Seung-Kyum Choi 佐治亚理工学院 [email protected]

###### 摘要

流匹配（Flow Matching）通过积分学习到的速度场来生成数据，其中积分步数（NFE）直接决定了推理成本。然而，对于*速度场的哪些性质决定了积分误差*，目前缺乏精确的理解。我们通过将速度雅可比矩阵 $\nabla_x v$ 分解为其对称部分 $S$（应变率）和反对称部分 $\Omega$（涡量），并证明它们发挥着根本不同的作用，从而提供了这种理解：应变通过其对数范数 $\mu_2 = \lambda_{\max}(S)$ 控制*指数级*误差放大，而涡量仅对局部截断误差产生*线性*贡献。这种不对称性有三层含义。首先，我们推导了一个分离的误差界，表明仅抑制应变即可消除指数级误差增长，而仅抑制涡量则不能。其次，我们证明最优传输（Optimal Transport, OT）速度场自动无旋（$\Omega=0$）且具有零物质导数，这使得欧拉积分从一阶精度提升至二阶精度。对于精确的 OT 位移插值，相应的拉格朗日粒子动力学实际上可以通过欧拉积分精确求解；我们在高斯和非线性 OT 流上验证了这一点，误差达到机器精度（$\sim 10^{-14}$）。第三，我们表明，在理论偏好上，具有较大应变权重 $\alpha$（超过涡量权重 $\beta$）的加权雅可比正则化更为有利，我们在合成基准上验证了这一预测，并在 CIFAR-10 上进行了探索。二维分布上的实验证实了主要的理论预测，在 NFE=5 时展示了高达 $2.7$ 倍的积分误差减少。初步的 CIFAR-10 实验显示了一致的趋势，一种轻量级的微调程序在 NFE=10 时将 FID 提高了 14%，同时保持了高 NFE 下的质量。一个匹配的微调控制实验（相同训练，无正则化）显示没有可比的改进，表明增益与雅可比正则化相关，而非仅来自额外的训练。消融实验进一步说明了预测的偏差-复杂度权衡，并支持在低维设置中使用以应变为主的权重。

## 1 引言

流匹配（Flow Matching）（Lipman et al., 2023 (https://arxiv.org/html/2605.06680#bib.bib1); Liu et al., 2023 (https://arxiv.org/html/2605.06680#bib.bib2)）已成为生成建模的强大范式，它训练一个速度场 $v_\theta(t,x)$，其常微分方程（ODE）积分将噪声传输到数据。一个核心的实际挑战是，精确的积分需要大量的函数评估（高 NFE），导致推理缓慢。各种方法解决了这个问题：整流流（Rectified Flow）（Liu et al., 2023 (https://arxiv.org/html/2605.06680#bib.bib2)）通过重流（reflow）使轨迹变直，一致性模型（Consistency Models）（Song et al., 2023 (https://arxiv.org/html/2605.06680#bib.bib3)）强制执行自一致性，而 MeanFlow（Geng et al., 2025 (https://arxiv.org/html/2605.06680#bib.bib4)）学习一个平均速度以实现单步生成。

尽管有这些实际进展，一个基本问题仍然存在：*学习到的速度场的哪些属性决定需要多少积分步数？*标准的数值分析使用李普希茨常数 $L=\sup\|\nabla_x v\|$ 来界定欧拉误差，得出 $O(h \cdot e^{LT})$。但这个界限同等对待雅可比矩阵的所有分量，可能会错过能够产生更紧密分析和更有针对性正则化的结构。

在本文中，我们通过将速度雅可比矩阵分解为其**对称部分** $S$（应变率张量）和**反对称部分** $\Omega$（涡量张量），提供了更细粒度的分析。我们证明这两个组件以根本不同的方式影响积分误差：

- **应变控制指数误差放大**。误差传播因子由对数范数 $\mu_2(\nabla v) = \lambda_{\max}(S)$ 控制，该范数仅取决于 $S$。大应变导致误差以 $e^{\mu_+ T}$ 增长。
- **涡量仅产生线性贡献**。涡量通过项 $\Omega v$ 影响局部截断误差，但这种贡献纯属加性——它不进入指数放大因子。
- **同时抑制两者可获得最紧的欧拉界限**。当 $S \to 0$ 且 $\Omega \to 0$（应变和涡量消失 regime）时，误差从 $O(h \cdot e^{LT})$ 缩减为 $O(hT \cdot M_t)$，其中 $M_t = \sup\|\partial_t v\|$。

我们将此分析与最优传输理论联系起来，证明来自 Brenier 定理的 OT 速度场是无旋的（$\Omega=0$）且物质导数为零（$Dv/Dt=0$）。后者意味着欧拉积分在 OT 流上自动具有**二阶**精度。

贡献。

1. 1. **分离的误差界**（定理 1 (https://arxiv.org/html/2605.06680#Thmtheorem1)），证明了应变和涡量在 ODE 积分误差中的不对称作用，以及三 regime 分析（推论 2 (https://arxiv.org/html/2605.06680#Thmtheorem2)）。
2. 2. 证明 **OT 速度场是无旋的**（定理 4 (https://arxiv.org/html/2605.06680#Thmtheorem4)）且具有**零物质导数**（定理 5 (https://arxiv.org/html/2605.06680#Thmtheorem5)），这在欧拉误差分析中产生了二阶欧拉精度。对于精确位移插值，我们进一步观察到在高斯和非线性 OT 流上的精确拉格朗日欧拉积分，这是一个更强的现象，详见注 7 (https://arxiv.org/html/2605.06680#Thmtheorem7)。
3. 3. **偏差-复杂度权衡分析**，表明应变正则化在控制欧拉离散化误差方面比涡量正则化在理论上更有价值（命题 8 (https://arxiv.org/html/2605.06680#Thmtheorem8)）。
4. 4. **实验验证**：在 2D 基准上确认主要理论预测，辅以 CIFAR-10 实验，显示一致的低 NFE 改进，以及对 $\alpha$、$\beta$ 和微调持续时间的消融实验。

图 1 (https://arxiv.org/html/2605.06680#S1.F1) 说明了核心思想：随着应变和涡量的抑制，粒子轨迹变得越来越直且不交叉，从而可以用更少的步骤实现精确积分。

参见图注 图 1：三种流 regime 概述。(a) 标准 FM：具有高压应变和涡量的混乱、交叉轨迹，需要许多积分步骤。(b) 涡量抑制（$\Omega \to 0$）：更平滑但仍然弯曲的轨迹；由于应变，指数误差放大仍然存在。(c) 双零极限（$S, \Omega \to 0$）：近乎直线、平行的轨迹；误差增长是线性的，实现少步生成。每个面板下方显示了来自定理 1 (https://arxiv.org/html/2605.06680#Thmtheorem1) 和推论 2 (https://arxiv.org/html/2605.06680#Thmtheorem2) 的误差界。

## 2 背景

**流匹配**。给定源分布 $p_0 = \mathcal{N}(0, I)$ 和数据分布 $p_1$，流匹配（Lipman et al., 2023 (https://arxiv.org/html/2605.06680#bib.bib1)）通过最小化以下损失学习 $v_\theta: [0,1] \times \mathbb{R}^d \to \mathbb{R}^d$：
$$ \mathcal{L}_{\text{FM}}(\theta) = \mathbb{E}_{t,x_0,x_1} \| v_\theta(t, x_t) - u_t(x_t | x_1) \|^2, $$
其中 $x_t = (1-(1-\sigma)t)x_0 + tx_1$ 是条件 OT 插值。

**欧拉积分误差**。在推理时，我们求解 $dx/dt = v_\theta(t,x)$，步长 $h=1/N$：
$$ \hat{x}_{n+1} = \hat{x}_n + h \cdot v(t_n, \hat{x}_n). $$
标准误差界为 $\|e_N\| = O(h \cdot (e^{LT}-1)/L)$，其中 $L = \sup_t \|\nabla_x v(t, \cdot)\|$ 是李普希茨常数。这个界限是紧的但*悲观的*：它均匀地对待 $\nabla_x v$ 的所有分量。

**雅可比分解**。任何矩阵 $A$ 唯一分解为 $A = S + \Omega$，其中 $S = (A+A^\top)/2$ 是对称的，$\Omega = (A-A^\top)/2$ 是反对称的。它们在 Frobenius 范数下正交：$\|A\|_F^2 = \|S\|_F^2 + \|\Omega\|_F^2$。

**对数范数**。对数范数（矩阵测度）$\mu_2(A) = \lambda_{\max}(S_A)$ 满足 $\|e^{tA}\| \le e^{t\mu_2(A)}$。关键的是，$\mu_2$ 仅取决于 $A$ 的*对称部分*，完全忽略反对称部分。这一经典结果（Söderlind, 2006 (https://arxiv.org/html/2605.06680#bib.bib8)）是我们分析的基础。

## 3 主要结果：分离的误差界

### 3.1 应变和涡量的不对称作用

我们定义沿流的关键量：最大对数范数 $\mu_+ = \sup_t \lambda_{\max}(S_t)$；时间变化 $M_t = \sup\|\partial_t v\|$；应变引起的加速度 $M_S = \sup\|Sv\|$；以及涡量引起的加速度 $M_\Omega = \sup\|\Omega v\|$。

###### 定理 1（带有雅可比分解的全局误差）。

在标准正则性假设下（$v$ 是 $C^2$，一致李普希茨），欧拉全局误差满足：

$$ \|e_N\| \le \frac{h(M_t + M_S + M_\Omega)}{2\mu_+} (e^{\mu_+ T} - 1) + O(h^2). \quad (1) $$

证明分为三步。首先，使用对数范数分析误差递推 $e_{n+1} = (I+h\nabla v)e_n - \tau_n$ 以界定 $\|I+h\nabla v\| \le e^{h\mu_+}$，这仅取决于 $S$（而非 $\Omega$）。其次，通过物质导数分解局部截断误差：$\tau_n = \frac{h^2}{2}(\partial_t v + Sv + \Omega v) + O(h^3)$，分离来自 $S$ 和 $\Omega$ 的贡献。第三，离散 Grönwall 引理结合这些得出式 (1) (https://arxiv.org/html/2605.06680#S3.E1)。完整证明见附录 A (https://arxiv.org/html/2605.06680#A1)。

关键见解是不对称性：$S$ 出现在*指数*放大因子（$e^{\mu_+ T}$）和截断误差（$M_S$）中，而 $\Omega$ 仅出现在截断误差（$M_\Omega$）中。这带来了直接的后果：

###### 推论 2（三种正则化 Regimes）。

(A) 仅应变抑制（$S \to 0$，$\Omega$ 任意）：$\|e_N\| \le \frac{hT}{2}(M_t + M_\Omega)$。指数增长*消除*，但误差仍依赖于 $\Omega$。

(B) 仅涡量抑制（$\Omega \to 0$，$S$ 任意）：$\|e_N\| \le \frac{h(M_t + M_S)}{2\mu_+}(e^{\mu_+ T} - 1)$。指数增长*持续*。

(C) 双零极限（$S \to 0$ 且 $\Omega \to 0$）：

$$ \|e_N\| \le \frac{hT}{2} \cdot M_t + O(h^2). \quad (2) $$

Regime C 是我们分解中最紧的欧拉界限：在 $h$ 上线性，在 $T$ 上线性，仅由速度场的内在时间变化控制。就 NFE 复杂度而言，在标准 FM 中达到精度 $\epsilon$ 需要 $O(e^{LT}/\epsilon)$ 步，但在应变和涡量消失 regime 中仅需 $O(M_t T/\epsilon)$——从指数级减少到线性级。

## 4 与最优传输的联系

我们现在建立最优传输速度场自然满足应变和涡量消失条件的一半，并拥有一个令人惊讶的附加属性。

###### 定理 4（OT 速度场是无旋的）。

令 $T^* = \nabla \Psi$ 为 Brenier OT 映射，其中 $\Psi \in C^3$ 严格凸。McCann 位移插值的欧拉速度场满足 $\Omega^{OT}(t,y) = 0$，对所有 $t \in [0,1)$。

**证明概要**。$v^{OT}$ 的雅可比矩阵是 $(\nabla^2 \Psi - I)[(1-t)I + t\nabla^2 \Psi]^{-1}$。由于 $\nabla^2 \Psi$ 是对称的，两个因子都是对称矩阵的多项式，因此它们交换，其乘积是对称的。因此 $\Omega = 0$。完整证明见附录 B (https://arxiv.org/html/2605.06680#A2)。$\blacksquare$

###### 定理 5（OT 流具有零物质导数）。

OT 速度场满足 $\frac{Dv^{OT}}{Dt} = \partial_t v + (\nabla v)v = 0$，对所有 $t \in [0,1)$。因此：

* (i) 局部截断误差为 $\tau_n = O(h^3)$ 而非 $O(h^2)$。
* (ii) 欧拉积分实现**二阶**全局收敛：$\|e_N\| \le C h^2 \cdot (e^{\mu_+ T}-1)/\mu_+$。

**证明概要**。在拉格朗日坐标中，每个粒子具有恒定速度 $\dot{\varphi}_t(x) = \nabla \Psi(x) - x$，独立于 $t$。加速度 $\ddot{\varphi}_t = 0$ 等于欧拉坐标中的物质导数。$O(h^2)$ 截断误差项消失，留下 $O(h^3)$。$\blacksquare$

结合这些结果产生一个层级：

$$ \underbrace{\nabla v = 0}_{\text{vanishing strain \& vorticity}} \subsetneq \underbrace{\Omega = 0}_{\text{OT (irrotational)}} \subsetneq \underbrace{\text{General}}_{\text{Standard FM}} \quad (3) $$
相应的误差缩放从一般情况下的 $O(h \cdot e^{LT}/L)$ 改善到 OT 流的 $O(h^2 e^{\mu_+ T}/\mu_+)$，并在应变和涡量消失 regime 中进一步改善为 $O(hT M_t)$。

参见图注 图 2：速度场正则性层级。一般 FM（外部）具有应变和涡量，具有一阶欧拉收敛性。OT 流（中间）是无旋的（$\Omega=0$）且具有零物质导数，将欧拉升级至二阶收敛性（$O(h^2)$ 全局误差）。双零极限（内部） additionally 消除应变（$S=0$），产生 $O(hT)$ 线性误差增长。箭头表示每个正则化罚项的效果。

## 5 对正则化的启示

我们的分析为设计降低 NFE 的正则化器提供了原则性指导。

### 5.1 加权雅可比正则化

考虑在 FM 损失中增加加权雅可比罚项：

$$ \mathcal{L} = \mathcal{L}_{\text{FM}} + \alpha \mathbb{E}[\|S\|_F^2] + \beta \mathbb{E}[\|\Omega\|_F^2]. \quad (4) $$

###### 命题 8（设计原则：以应变为主的权重）。

对于固定的正则化预算 $\alpha + \beta = \lambda$，最小化总误差（正则化偏差 + 离散化误差）的分配满足 $\alpha^* > \lambda/2 > \beta^*$，只要 $\mu_+ T > 1$。这是由于离散化误差对 $\mu_+$（由 $\alpha$ 控制）的指数敏感性，相对于对 $M_\Omega$（由 $\beta$ 控制）的线性敏感性。