论文页面 - 显现信号，隐藏噪声：面向像素空间扩散的频谱强制

来源：https://huggingface.co/papers/2606.15236

摘要

频谱强制（Spectral Forcing），一种时间条件二维DCT低通算子，通过在像素空间模型中显式分离信号与噪声，提升了扩散模型的效率。

像素空间（https://huggingface.co/papers?q=Pixel-space）扩散模型（https://huggingface.co/papers?q=diffusion%20models）在全带宽含噪图像上训练，然而去噪器（https://huggingface.co/papers?q=denoiser）可用的有用信号却具有极强的频率依赖性。在整流流扩散（https://huggingface.co/papers?q=rectified-flow%20diffusion）和自然图像幂律谱（https://huggingface.co/papers?q=power-law%20spectra）下，每个时刻 t 的频带数据-噪声等值线（https://huggingface.co/papers?q=data-to-noise%20contour）k^{*}(t) = (1-t)^{-2/α} 将信号承载的低频区域与噪声主导的高频区域分隔开来。我们证明，这种隐式的由粗到细结构并不仅仅是描述性的：它引发了一个容量分配问题（https://huggingface.co/papers?q=capacity-allocation%20problem）。标准像素空间（https://huggingface.co/papers?q=pixel-space）去噪器（https://huggingface.co/papers?q=denoiser）必须内部发现不断变化的带宽边界，并可能在那些最优预测坍缩为确定性基线而非数据分布建模的频率-时间区域上耗费计算量。为了显式化这一边界，我们引入了频谱强制（Spectral Forcing）（https://huggingface.co/papers?q=Spectral%20Forcing），一种无参数、时间条件的二维DCT（https://huggingface.co/papers?q=2D-DCT）低通算子，在送入补丁嵌入器（https://huggingface.co/papers?q=patch%20embedder）之前应用于含噪输入。其截止频率随扩散时间单调扩展，并在数据端点处变为恒等映射。通过受控的合成实验，我们确定了该算子受益的场景：粗粒度的补丁分词化以及高频内容主要为噪声而非关键信号的数据。在 ImageNet-256（https://huggingface.co/papers?q=ImageNet-256）上配合 JiT-700M/32（https://huggingface.co/papers?q=JiT-700M%2F32），频谱强制（Spectral Forcing）（https://huggingface.co/papers?q=Spectral%20Forcing）在不同训练轮次下均一致提升了 FID（https://huggingface.co/papers?q=FID）和 Inception Score（https://huggingface.co/papers?q=Inception%20Score），展现了全训练过程中的稳健增益；在更精细的补丁分词化下，频谱强制（spectral forcing）（https://huggingface.co/papers?q=spectral%20forcing）仍具有竞争力。我们进一步将未经修改的算子插入 SenseNova-U1（https://huggingface.co/papers?q=SenseNova-U1），一个统一的文生图模型（https://huggingface.co/papers?q=text-to-image%20model），该算子提升了 DPG-Bench（https://huggingface.co/papers?q=DPG-Bench）和 GenEval（https://huggingface.co/papers?q=GenEval），表明输入侧谱先验能够迁移至类条件生成之外的任务。这些结果表明，通过显现信号、隐藏噪声，可以走向容量高效的像素空间（https://huggingface.co/papers?q=pixel-space）扩散。

查看 arXiv 页面（https://arxiv.org/abs/2606.15236）查看 PDF（https://arxiv.org/pdf/2606.15236）GitHub6（https://github.com/WeichenFan/Spectral_Forcing）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2606.15236）

在你的智能体中获取此论文：

hf papers read 2606\.15236

没有最新 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型1

weepiess2383/Spectral_Forcing 文生图• 更新于约 1 小时前 • 1（https://huggingface.co/weepiess2383/Spectral_Forcing）

引用此论文的数据集0

没有数据集链接此论文

在数据集的 README.md 中引用 arxiv.org/abs/2606.15236，即可从此页面链接。

引用此论文的空间0

没有空间链接此论文

在空间的 README.md 中引用 arxiv.org/abs/2606.15236，即可从此页面链接。

包含此论文的收藏0

没有收藏包含此论文

将此论文添加到收藏（https://huggingface.co/new-collection）以从此页面链接。