论文页面 - 从 SRA 到 Self-Flow：数据增强还是自监督？

来源：https://huggingface.co/papers/2607.02508

摘要

研究调查了扩散 Transformer 中自对齐方法背后的机制，发现性能提升主要源自沿噪声维度的数据增强，而非不同噪声层级之间的 token 交互。

表示对齐（https://huggingface.co/papers?q=Representation%20alignment）已成为加速扩散 Transformer（https://huggingface.co/papers?q=diffusion%20transformer）训练并提升生成质量的有效方式。最近的自我对齐（https://huggingface.co/papers?q=self-alignment）方法，如 SRA（https://huggingface.co/papers?q=SRA）和 Self-Flow（https://huggingface.co/papers?q=Self-Flow），通过直接在扩散模型内部构建对齐，进一步消除了对外部预训练编码器的依赖。然而，从 SRA（https://huggingface.co/papers?q=SRA）到 Self-Flow（https://huggingface.co/papers?q=Self-Flow）的改进机制——即双时间调度（https://huggingface.co/papers?q=dual-time%20scheduling）——仍未被充分探究：Self-Flow（https://huggingface.co/papers?q=Self-Flow）将其收益归因于不同噪声层级 token 之间的交互，其中更干净的 token 帮助推断更嘈杂的 token。在这项工作中，我们重新审视了这一解释，并提出疑问：这种收益实际上是否来自沿噪声维度（https://huggingface.co/papers?q=noise%20dimension）的数据增强（https://huggingface.co/papers?q=data%20augmentation）？为厘清这些因素，我们引入了注意力分离（https://huggingface.co/papers?q=Attention%20Separation），该方法保留了与 Self-Flow（https://huggingface.co/papers?q=Self-Flow）相同的双时间步输入，同时阻止了分配给不同噪声层级的 token 之间的注意力交互。令人惊讶的是，移除这种交互并不会损害性能，甚至可能提升性能，这表明从 SRA（https://huggingface.co/papers?q=SRA）到 Self-Flow（https://huggingface.co/papers?q=Self-Flow）的改进主要源自数据增强（https://huggingface.co/papers?q=data%20augmentation）。此外，我们证明注意力分离（https://huggingface.co/papers?q=Attention%20Separation）本身通过将单张图像拆分为多个有效的训练部分来扩展训练数据，从而提供增强效果。基于这些观察，我们将自表示对齐（https://huggingface.co/papers?q=representation%20alignment）与双时间步和注意力分离增强相结合，并在 ImageNet 上验证了该设计的有效性。

查看 arXiv 页面（https://arxiv.org/abs/2607.02508）查看 PDF（https://arxiv.org/pdf/2607.02508）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2607.02508）

在您的 agent 中获取此论文：

hf papers read 2607.02508

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

没有与此论文关联的模型

在模型 README.md 中引用 arxiv.org/abs/2607.02508 以从本页面链接。

引用此论文的数据集0

没有与此论文关联的数据集

在数据集 README.md 中引用 arxiv.org/abs/2607.02508 以从本页面链接。

引用此论文的 Spaces0

没有与此论文关联的 Space

在 Space README.md 中引用 arxiv.org/abs/2607.02508 以从本页面链接。

包含此论文的收藏集0

没有包含此论文的收藏集

将此论文添加到一个收藏集（https://huggingface.co/new-collection）中以从本页面链接。