扩散模型中的量子电路:一项公平比较研究及角度嵌入失败的机理分析

arXiv cs.LG 论文

摘要

本文对扩散模型中的变分量子电路进行了公平比较研究,引入了一个挤压-激励(SE)骨架来隔离量子贡献。研究发现与经典对照的功能对等性,并识别了基于分数的设置中的角度嵌入失败,提供了严格的方法论和机理分析。

arXiv:2607.09108v1 Announce Type: new 摘要:我们通过一个挤压-激励(SE)通道调制骨架来研究变分量子电路(VQCs)在扩散模型中的集成,该骨架隔离了量子贡献。使用角色匹配的经典对照和多种子显著性检验,在MNIST和CIFAR-10上针对DDPM和潜在扩散,以及MNIST上基于得分的NCSN研究,我们发现量子核心在DDPM和潜在扩散中实现了与经典对照相当的均值FID,而针对EfficientSU2的配对采样-种子检验未检测到统计显著差异。尽管量子核心使用的核心参数比角色匹配的对照少$4.5$--$9\times$倍,但参数匹配的经典对照达到了相当的均值FID,因此实验并未建立量子参数效率优势。我们进一步识别了基于得分的NCSN中的结构性失败:与$1/\sigma$成比例的无界得分目标将角度嵌入输入驱动到旋转门$2\pi$周期之外,导致相位混叠和量子调制器崩溃。边界变换$\theta \leftarrow \pi \tanh(\cdot)$将输入映射到无混叠域,并显著改善了两种量子核心。由于所有电路在少数量子比特规模上进行了经典模拟,我们不声称量子优势。相反,该研究为量子增强生成模型提供了一个公平比较协议,并给出了角度嵌入何时以及为何失败的机理说明。
查看原文
查看缓存全文

缓存时间: 2026/07/13 07:58

# 扩散模型中量子电路的公平比较研究与角度嵌入失败的机制分析
来源:https://arxiv.org/html/2607.09108
## 扩散模型中的量子电路:角度嵌入失败的公平比较研究与机制分析

###### 摘要

本文通过一种挤压-激励(SE)通道调制框架来隔离量子贡献,研究变分量子电路(VQC)在扩散模型中的集成。使用一个*角色匹配的*经典控制(一个在相同框架中扮演相同角色的经典MLP)和多种子显著性检验,在DDPM和潜在扩散模型上对MNIST和CIFAR-10进行评估(同时包含基于分数的NCSN在MNIST上的研究),两个量子核心在DDPM和潜在扩散上均达到了与角色匹配的经典控制相当的均值FID,而EfficientSU2的配对采样种子检验未检测到统计学显著差异。尽管量子核心使用的参数比该控制少4.5–9倍,但在相同预算下,两者在所有四个MNIST/CIFAR-10比较中均获得了略低的均值FID;差异很小且未经显著性检验,因此实验并未确立*量子参数效率优势*。我们进一步从机制上识别并解决了一个在基于分数的NCSN设置中的结构性失败:无界分数目标(∝1/σ)将角度嵌入输入推远超出旋转门的2π周期,这是一种相位*混叠*效应,导致期望值景观平坦化并使量子调制器失效。一个有界变换θ←π tanh(·)将特征空间投影到非混叠域(-π, π),消除了该失败并显著改善了两种量子核心;经过归一化的RealAmplitudes在该单次训练比较(未确立统计学显著性)中获得了最低的均值FID。由于所有电路都在少数量子比特尺度上进行经典模拟,我们表征的是变分量子参数化在严格匹配控制下是否是一种有用的归纳偏置,而非宣称量子优势;在该受控比较下,量子核心表现出与同等参数预算的经典核心的*功能对等性*——而非优越性。我们的贡献是:(i) 一个用于量子增强生成模型的严格公平比较方法,以及 (ii) 一个关于角度嵌入何时以及为何失败的机制性解释。

## 1 引言

量子机器学习(QML)[4] 在生成建模中引起了强烈兴趣,越来越多的研究将参数化量子电路插入到自编码器、生成对抗网络以及最近的扩散模型中[22, 14]。该领域文献中一个反复出现的困难是评估:量子增强模型通常与一个没有在相同位置放置相同容量经典模块的普通基线进行比较,因此观察到的增益可能仅仅反映了插入块的额外参数和非线性,而非任何量子特性。当量子电路足够小以至于可以在经典上模拟时(正如实践中常用的少数量子比特尺度那样),实验并非旨在测试计算量子优势;剩下要衡量的是,量子参数化相对于扮演相同角色的经典核心是否是一种*有用的归纳偏置*。

因此,我们采用了一种刻意保守的实验设计。我们固定一个单一的挤压-激励(SE)调制框架,仅改变其*核心*,将变分量子电路替换为一个*角色匹配的*经典多层感知器(MLP)——该MLP占据相同框架中的相同位置,尽管具有*更多*核心参数(144 vs. 16/32),因此是一个*更高参数*(而非更少)的控制;或者替换为无,所有包装器、初始化和训练计划均完全相同。然后通过多种子显著性检验而非单次运行点估计来评估差异。扩散模型是一个有吸引力的测试平台,因为同一框架可以在三种结构上不同的家族上评估——去噪扩散(DDPM)、潜在扩散(LDM)和基于分数的生成(NCSN)——在标准图像基准上。

在这个矩阵中,我们发现没有统计可检测的差异:量子核心匹配了更高参数的经典控制,同时在*核心内部*使用的参数少了4.5–9倍,在DDPM或LDM上既没有显著赢也没有显著输。我们强调这种效率是局部的(限于调制核心),它仅占完整约2300万参数模型的一小部分(第4节);这是一个关于紧凑参数化的陈述,而非关于整体模型大小、运行时间或内存。唯一的例外,基于分数的NCSN,被证明具有信息量:我们将观察到的主要失败归因于周期角度嵌入在输入无界分数目标时的混叠——而非核心参数的明显短缺——我们诊断并修复了这一失败。我们不宣称量子优势;本工作的价值在于一个公平比较方法和一个可迁移的机制性洞察。

#### 贡献。

- • **一个公平比较框架**(第3节):一个固定的SE框架,其中只有*核心*在量子电路、角色匹配的经典MLP(具有*更多*核心参数)或无之间交换,并使用恒等初始化,使所有变体共享相同的起点。
- • **一个无差异发现,无效率优势**(第4节):在MNIST/CIFAR-10上的DDPM和潜在扩散中,量子核心匹配了更高参数(144参数)的经典控制(|SNR|<0.3);但一个*参数匹配的*经典核心(16/32参数)在数值上与量子核心相当,因此“更少参数”的表观优势并非显著的量子效率优势。
- • **一个机制性发现**(第5节):基于分数的(NCSN)模型在使用量子核心时会因角度嵌入混叠而失效;π tanh归一化显著改善了两种量子核心,对于RealAmplitudes,在单次训练比较中获得了最低的均值FID。
- • **超越经验混淆的方法论严谨性**(第3节):我们不是报告未经审查的增益,而是将架构混淆因素与量子表达能力解耦,为混合生成模型建立一个透明、可重复的评估标准,并隔离出一个可迁移的机制性故障模式。

## 2 背景

### 2.1 扩散模型

扩散模型定义一个逐步添加高斯噪声的前向过程,$x_t = \sqrt{\bar{\alpha}_t}\, x_0 + \sqrt{1-\bar{\alpha}_t}\, \epsilon$,其中$\epsilon \sim \mathcal{N}(0, I)$,并学习一个逆向(去噪)过程来预测$\epsilon$[8]。基于分数的模型则学习在一系列噪声尺度上的分数$\nabla_x \log p(x)$[19, 20]。潜在扩散在压缩的潜在空间中运行该过程[16]。

### 2.2 变分量子电路与角度嵌入

VQC将经典输入编码为旋转角度(角度嵌入),应用参数化纠缠层,并读出期望值如$\langle Z_i \rangle$[17, 2]。关键是,旋转门是$2\pi$周期的,这一事实对第5节至关重要。

## 3 方法:具有公平控制的量子SE调制

### 3.1 SE框架

我们在U-Net瓶颈处插入一个挤压-激励(SE)通道门[9]。给定特征$x \in \mathbb{R}^{B \times C \times H \times W}$,我们在空间上池化得到$v \in \mathbb{R}^{B \times C}$,投影到$n_q$个值,应用一个*核心* $f_\theta: \mathbb{R}^{n_q} \to \mathbb{R}^{n_q}$,映射回每个通道的门,并进行调制:

$$g = 1 + \tanh\!\big(W_\uparrow\,\tanh(f_\theta(W_\downarrow\,v))\big), \qquad x' = x \odot g,$$
其中$W_\downarrow$和$W_\uparrow$是下/上投影。上投影$W_\uparrow$被零初始化,因此$g \equiv 1$且$x' = x$在初始化时;每个变体因此从相同的、未调制的网络开始,并且门以残差方式包装。条件之间*唯一*变化的对象是核心$f_\theta$。

![图1:U-Net瓶颈处的公平比较框架。池化后的通道统计量$v$被投影到$n_q$个值,由*核心* $f_\theta$变换,通过零初始化的$W_\uparrow$(因此门在初始化时是恒等的)投影回来,并用于残差调制$x$。se_mode轴*仅*交换核心——变分量子电路、角色匹配的经典MLP或无——保持包装器、初始化和训练计划固定。]()

### 3.2 se_mode轴与角色匹配的控制

核心是以下之一:

- • **无**:无SE模块(普通扩散基线)。
- • **经典**:一个扮演*相同角色*的MLP核心(144个核心参数)——即控制。它比任一量子核心具有*更多*核心参数,因此是一个*更高参数*的比较点,而非更小。
- • **量子**:一个VQC核心,可以是RealAmplitudes(16参数)或EfficientSU2(32参数)。

因此,量子核心使用的核心参数比经典控制少4.5–9倍;匹配一个更高参数的控制正是量子参数化紧凑的意义所在。我们强调这个比较是*角色匹配的*,而非参数匹配的:一个参数匹配的比较会将经典核心缩小到16/32参数,我们在第4节(极小MLP控制)中单独检验。

### 3.3 评估协议

对于每个配置,我们在5个生成种子下生成样本,并以均值±标准差报告FID[7]和SSIM[21]。我们用每个配对比较的*效应量* $\mathrm{SNR} = \overline{\Delta} / \mathrm{std}(\Delta)$(跨种子)来总结——一个标准化均值差(Cohen's d族),不是p值。它是每种子配对的t统计量的模拟,$t = \mathrm{SNR} \sqrt{n}$,其中$n=5$(df=4),因此我们的标记|SNR|>2对应于|t|>4.5(双尾p≈0.01),是一个保守阈值。这些种子在固定检查点下改变*生成*(采样)噪声;它们探测在采样噪声下的排序稳定性。为了也探测训练初始化方差,我们在额外四个种子下重新训练两个SE核心,总共五个独立训练种子,并在五个生成种子下重新评估每个检查点(表6)。SSIM是在*任意配对*的生成图像和真实图像之间计算的(无条件生成不存在对应关系);因此我们仅将其视为一个粗略的结构相似性指标,并依赖FID来衡量质量。

## 4 实验

#### 设置。

所有核心使用8量子比特电路(PennyLane默认.qubit,反向传播),训练300个epoch,使用Adam优化器(学习率$10^{-4}$,批量大小64),余弦退火调度,梯度裁剪1.0,并使用权重指数移动平均(衰减0.9999)进行评估。超参数在所有核心中相同;只有se_mode不同。我们在MNIST和CIFAR-10上评估,使用pytorch-fid计算FID,torchmetrics计算SSIM,基于1000张生成图像和1000张真实图像(NCSN为500张),使用100个采样步骤和5个生成种子。完整超参数和SSIM表见附录。

表1:参数统计(DDPM/MNIST)。se_mode核心是唯一变化的对象;它仅占模型的一小部分。量子与经典*核心*的差异约为$10^2$个参数,而总模型约2300万(≈0.001%),因此“核心参数少4.5–9倍”是关于一个紧凑组件的陈述,而非整个模型。

表2:多种子FID(均值±标准差,5种子;越低越好)。量子核心在DDPM和潜在扩散上表现与更高参数(角色匹配)的经典SE控制相当。NCSN是例外,在第5节中分析。

表3:配对效应量,quantum-su2 vs. classical-SE。我们定义每种子$\Delta = \mathrm{FID}_{\text{classical}} - \mathrm{FID}_{\text{quantum}}$(正值有利于量子核心),*胜出*计数是量子核心具有较低FID的种子数;$\mathrm{SNR} = \overline{\Delta} / \mathrm{std}(\Delta)$跨5种子(相当于配对$t = \mathrm{SNR}\sqrt{5}, \mathrm{df}=4$)。在DDPM/LDM上,|SNR|<2(|t|<4.5, p≳0.01)处处成立⇒无法检测到差异。

#### 结果:与更高参数控制相当。

在DDPM和潜在扩散(两个数据集)上,量子核心在统计上与经典SE控制不可区分(表3,|SNR|<0.3;配对检验针对quantum-su2,quantum-real在表2中显示相当的均值FID),同时使用的核心参数少4.5–9倍。然而,如下文所示,这并未确立量子效率优势:参数匹配的经典控制在相同的16/32参数预算下达到了类似的均值FID。NCSN是唯一显著的情况(SNR=−5.26,量子*更差*);我们在第5节中诊断。

![图2:生成样本(DDPM/MNIST,100步,共享种子)。从无SE基线、经典SE控制和quantum-su2核心的样本质量在视觉上相当,与表2中可比的FID结果一致。]()

#### 效率是否真实?一个参数匹配的控制。

上述主要比较将16/32参数的量子核心与144参数的经典SE核心进行对比,因此“少参数”混淆了*量子性*与*小型性*。为了分离它们,我们添加了通过低秩瓶颈缩小到*相同*预算的经典核心(16和32参数;表4)。在匹配的预算下,两个核心在采样噪声范围内相近:量子核心在16参数时略低(14.80 vs. 15.18),在32参数时也略低(14.52 vs. 14.67),差距与每种子标准差(≈0.7–0.9)相当。此外,144参数的经典SE核心

相似文章

利用AI设计更好的量子电路

Reddit r/singularity

来自因斯布鲁克大学和NVIDIA的研究人员开发了一种利用多模态扩散模型的人工智能方法,可自动生成高效的量子电路,显著缩短电路长度,并重新发现了如量子傅里叶变换等教科书电路。

基于功能流匹配的量子分布生成建模

arXiv cs.LG

提出量子流匹配(Quantum Flow Matching, QFM),一种利用自旋Wigner函数和功能流匹配来学习并生成多量子比特量子分布的生成模型,能够准确捕捉纯度和纠缠熵等物理性质。