金融领域的约束表格扩散

# 面向金融的约束表格扩散模型
来源：https://arxiv.org/html/2606.28674
Michael Cardei\* 弗吉尼亚大学 ntr2rm@virginia\.edu &Jose M Munoz\* 麻省理工学院 josemm@mit\.edu &Oscar Barrera 哈佛大学 oscarbarrera@g\.harvard\.edu &Shreyas K Chandrahas Visa Inc shrchand@visa\.com &Partha Saha Visa Inc pasaha@visa\.com

###### 摘要

金融领域的生成模型面临双重挑战：既要生成真实的数据，又要满足严格的监管和经济目标——这是标准表格扩散模型无法满足的要求。为解决这一难题，我们提出了面向金融的约束表格扩散模型（Constrained Tabular Diffusion for Finance, CTDF），这是一种将采样时可行性操作与混合类型表格扩散相结合的新方法，专门用于金融应用。通过在逆向扩散采样循环中引入一个无需训练的可行性算子，CTDF 能够对模拟、法律合规和外推等应用强制执行硬约束。在大规模金融数据集上的大量实验表明，该方法实现了*零约束违反*，并在数据稀缺场景下提升了数据的可用性。CTDF 建立了一种生成可信且合规合成数据的稳健方法，为金融领域严谨的生成建模与分析开辟了新途径。

11footnotetext:同等贡献，主要贡献。## 1 引言

高质量的合成数据对现代金融生态系统至关重要，涵盖全球支付网络、数字银行及商务平台。在该领域内，合成数据已成为开发稳健欺诈检测系统、校准信用风险模型以及实现合规隐私数据共享的关键工具[14 (https://arxiv.org/html/2606.28674#bib.bib12)]。然而，这些数据的效用取决于两个核心要求：它不仅要捕捉真实世界分布的复杂统计模式，还必须遵守金融市场运营中复杂的业务逻辑、经济原则和监管框架。未能强制执行这些约束会导致模型输出无效，破坏战略决策，并使机构面临严重的合规与运营风险。相反，若能生成既统计保真又结构合规的数据，便能促进发现，从而实现对市场动态更精细的模拟，以及对业务绩效驱动因素更深入的洞察。

早期金融数据合成工作依赖于深度生成模型，如生成对抗网络（GANs）[5 (https://arxiv.org/html/2606.28674#bib.bib29),18 (https://arxiv.org/html/2606.28674#bib.bib30)]和变分自编码器（VAEs）[16 (https://arxiv.org/html/2606.28674#bib.bib11)]。最近的研究趋势转向扩散概率模型，其基于似然的训练和迭代去噪过程提供了更好的模式覆盖和样本保真度。虽然这些方法能够生成混合类型的高保真数据[30 (https://arxiv.org/html/2606.28674#bib.bib1),25 (https://arxiv.org/html/2606.28674#bib.bib10),11 (https://arxiv.org/html/2606.28674#bib.bib5),22 (https://arxiv.org/html/2606.28674#bib.bib23)]，但其随机采样过程不受约束，无法保证严格遵守硬约束。

现有的控制生成输出的方法在金融领域往往存在不足。模型条件化（如无分类器引导）只能影响输出，而无法严格强制执行[8 (https://arxiv.org/html/2606.28674#bib.bib25)]。另一种方法是事后修正，即先生成一批完整的样本，然后过滤掉无效样本，或在最后一步将其投影到可行集上。这种方法不仅计算效率低下（需要生成更多样本），而且可能损害数据的统计完整性，导致与生成模型旨在复制的学习分布出现显著偏差[19 (https://arxiv.org/html/2606.28674#bib.bib27)]。

参见图注图 1：CTDF 通过可行性操作强制执行约束。在每一步，无约束样本被映射到合规区域，确保所有生成的输出都满足领域特定的约束。为了解决这些问题，我们引入了面向金融的约束表格扩散模型（CTDF）。在逆向扩散链的每次去噪更新之后，CTDF 强制样本位于可行区域内部。这相当于在采样循环中嵌入了一个无需训练的可行性算子，主动引导去噪轨迹，确保每个样本都保持在由硬约束定义的可行区域内。值得注意的是，由于映射发生在整个轨迹过程中，而非事后修补，合成样本能够保持与基础模型学到的联合结构一致。因此，这种方法在保持样本保真度的同时强制执行合规性。

本研究做出了以下贡献：

(I) 我们提出了 CTDF，这是首个无需训练、能强制执行约束的框架，它将可行性映射集成到金融应用的混合类型表格扩散中。

(II) 我们设计了一种混合映射算子，通过结合数值特征的欧几里得映射和分类特征的基于 KL 散度的映射，无缝处理金融记录中的混合数据类型。

(III) 我们在两个大规模金融数据集上实验证明，CTDF 在保持高数据保真度的同时，实现了硬约束的*零违反*。

## 2 相关工作

扩散模型最近已成为表格数据合成的主导方法。TabDDPM 引入了针对数值和分类特征的独立核函数[11 (https://arxiv.org/html/2606.28674#bib.bib5)]，随后的模型如 STaSy 提出了自定进度课程以增强样本保真度[10 (https://arxiv.org/html/2606.28674#bib.bib8)]。为了提高效率，TabSyn 在通过 VAE 编码器学习的压缩潜在空间中进行扩散[30 (https://arxiv.org/html/2606.28674#bib.bib1)]。TabDiff 进一步通过采用特征级可学习噪声调度来处理特征异质性，使单个连续时间模型能够适应每一列的分布特征[25 (https://arxiv.org/html/2606.28674#bib.bib10)]。在金融领域，最先进的扩散模型已展现出越来越大的潜力。然而，其随机采样过程无法保证遵守金融数据所固有的严格业务规则和监管要求。为了缓解这一问题，FinDiff 结合了领域特定的架构和金融预训练，以提高结构化金融数据集上的合成质量[22 (https://arxiv.org/html/2606.28674#bib.bib23)]。尽管如此，它仍然缺乏强制执行严格约束的机制，无法保证采样过程中的监管合规性。

为了确保输出遵循特定属性，最近的工作集中在将引导直接集成到扩散过程中。基于扩散的引导方法通过修改得分来将样本引导至期望属性。分类器引导通过添加预训练分类器的梯度来增强得分，从而将生成偏向于目标类别[4 (https://arxiv.org/html/2606.28674#bib.bib32)]，而无分类器引导则在条件得分和无条件得分之间进行插值，无需外部分类器[8 (https://arxiv.org/html/2606.28674#bib.bib25)]。这种引导改善了与条件变量的对齐，但*不能*提供每个样本的硬可行性保证。其他工作通过在逆向扩散过程中集成约束优化来处理此问题，将采样重新表述为一个约束优化问题。投影扩散模型（PDM）针对连续数据引入了这一思想，在每次去噪步骤后使用投影算子将样本保持在可行集内[2 (https://arxiv.org/html/2606.28674#bib.bib6)]。这种基于投影的方法通过 NSD 的神经符号扩散框架推广到了跨数据类型[3 (https://arxiv.org/html/2606.28674#bib.bib7)]。我们在这些工作的基础上，据我们所知，首次研究并实现了混合类型*表格*扩散中每一步的硬约束强制执行，重点关注金融数据集和合规驱动约束。

## 3 预备知识

#### 扩散模型。

生成式扩散模型[7 (https://arxiv.org/html/2606.28674#bib.bib14),26 (https://arxiv.org/html/2606.28674#bib.bib13),27 (https://arxiv.org/html/2606.28674#bib.bib15)]彻底改变了数据合成，生成了高保真、最先进的图像和视频样本[13 (https://arxiv.org/html/2606.28674#bib.bib16),20 (https://arxiv.org/html/2606.28674#bib.bib17)]。扩散模型由一个*前向*马尔可夫链组成，该链逐渐损坏一个干净样本 x0∼pdata，使其接近噪声分布 xT∼N(0,I)，随后是一个学习到的*逆向*链，从 xT 重建 x0。形式上，前向过程 {xt}t=0T 由核函数 q(xt∣xt−1)=N(1−βtxt−1,βtI) 决定，其中方差调度 {βt} 单调递增。逆向过程由一个神经网络 sθ(xt,t) 引导，该网络被训练来预测得分 ∇xtlogpt(xt)，其中 pt 是时间 t 处的边际数据分布。这个得分函数通过概率流 ODE 定义了一个确定性的生成过程。为了生成一个样本，我们从 t=T 到 t=0 逆向求解该 ODE，通常使用数值求解器。一个具有代表性的更新步骤是：

xt−Δt=xt+g(t)sθ(xt,t)Δt

其中 g(t) 是噪声调度的函数。这个过程确定性地将噪声向量 xT 转换为数据样本 x0，该样本近似于真实数据分布 pdata。

#### 离散扩散模型。

尽管扩散最初是为连续数据开发的，但最近的工作将此概念从连续向量扩展到离散 token 序列[1 (https://arxiv.org/html/2606.28674#bib.bib20),21 (https://arxiv.org/html/2606.28674#bib.bib18)]。每个 token 是一个在大小为 V 的词汇表上的独热向量 x∈{0,1}V，其中样本是一个长度为 L 的序列 x0=(x0(1),...,x0(L))。前向马尔可夫链以时间相关的速率 βt 用噪声替换 token，由下式给出：q(xt∣xt−1)=(1−βt)xt−1+βtν。这里，ν 要么是均匀分布[23 (https://arxiv.org/html/2606.28674#bib.bib19)]，要么是专用的 [MASK] 符号[21 (https://arxiv.org/html/2606.28674#bib.bib18)]。逆向过程建模为：

xt−Δ = { Cat(xt−Δ; xt), if xt≠ν, Cat(xt−Δ; β(t−Δ)ν+(β(t)−β(t−Δ))sθ(xt,t)β(t)), if xt=ν

其中学习的去噪器 sθ(xt,t) 近似样本 x0，而 xt 是序列中每个 token 在 V 上的概率分布。

#### 混合类型表格扩散模型。

表格数据结合了数值型 x(num)∈RN 和类别型 x(cat)∈∏k=1CΔKk 特征。纯连续扩散无法捕捉类别结构，纯离散扩散也无法表示实值几何。早期的表格扩散方法通过为每种特征类型运行独立的过程[11 (https://arxiv.org/html/2606.28674#bib.bib5),12 (https://arxiv.org/html/2606.28674#bib.bib9)]，或者首先通过 VAE 将每一行嵌入到连续潜在空间中然后在那里进行扩散[30 (https://arxiv.org/html/2606.28674#bib.bib1),31 (https://arxiv.org/html/2606.28674#bib.bib21)] 来解决这一问题，从而绕过了直接处理类别噪声核的需求。最近的工作 (TabDiff) [25 (https://arxiv.org/html/2606.28674#bib.bib10)] 将整个表格行 xt 建模为连续时间扩散过程的轨迹，并为每一列 j 分配一个独立的、可学习的噪声调度 αj(t)∈[0,1]。一个共享的 Transformer 编码器，以部分损坏的行 xt 和时间嵌入 τ(t) 为条件，产生时间感知表示 ht=fθ(xt,τ(t))。两个专门的头部然后预测 (i) 数值特征的高斯得分估计和 (ii) 离散特征的类别 logits。在生成过程中，逆向步骤对数值特征进行去噪，同时从预测的 logits 中重新采样类别 token，从而使单个模型能够联合重建混合类型表格。

## 4 方法

为了生成符合一组预定义约束的高保真表格数据，CTDF 扩展了一个预训练的无约束混合类型扩散模型（该模型已学习了底层数据分布）。在本实现中，我们使用 TabDiff [25 (https://arxiv.org/html/2606.28674#bib.bib10)] 作为基础扩散模型架构；然而，CTDF 可以扩展到其他表格扩散架构。CTDF 引入了一个基于可行性操作的框架，该框架在生成过程的每个采样步骤中强制执行约束，以确保最终输出位于可行、合规的区域内，而无需重新训练或微调基础模型。这种方法利用扩散固有的并行去噪能力，同时对所有列进行建模，并在每一步联合更新当前样本。

#### 无约束逆向过程

令 x=(xnum,xcat) 为一个数据样本，代表一条金融记录，包含 N 个数值特征 xnum∈RN 和 C 个类别特征 xcat∈∏k=1C{0,1}Kk+1，其中 Kk 是第 k 个特征的类别数，额外的类别是特殊的 [MASK] token，也表示为 m。

为了从先验中采样 xTnum∼N(0,IN) 和 xTcat=m，我们使用 [25 (https://arxiv.org/html/2606.28674#bib.bib10)] 中描述的基础采样算法。具体来说，在从先验中采样后，执行一个向 t+=t+γtΔt 的前向扩散步骤，其中 γt∈(0,1) 是步长分数。