论文页面 - 寄存器对像素空间扩散变换器的重要性

来源：https://huggingface.co/papers/2605.16147
发布于 7月6日

·

提交者 https://huggingface.co/quickjkee

nikita (https://huggingface.co/quickjkee) 于 7月16日

摘要

Vision Transformers (ViTs) 已知会表现出高范数斑块令牌异常值，这些异常值会降低特征图质量，而寄存器令牌可有效缓解该问题。随着扩散模型越来越多地采用变换器架构并转向像素空间训练，它们在形式上更接近 ViT，这引发了一个疑问：寄存器令牌是否也对 Diffusion Transformers (DiTs) 有用？在本文中，我们表明 DiT 在关键方面与 ViT 不同：它们不表现斑块令牌异常值，但仍然受益于寄存器。有趣的是，寄存器在像素空间 DiT 中比在潜空间 DiT 中更有效。通过分析中间表示，我们发现寄存器令牌在高噪声水平下产生更清晰的特征图，这可能有助于它们在像素空间生成中的有效性。我们进一步观察到，最近的像素空间 DiT 架构隐式地包含了类似寄存器的机制，这可能部分解释了它们较强的实证性能。受这些观察的启发，我们提出了 Register Guidance，一种放大负责改善视觉结构和连贯性的寄存器令牌贡献的技术。

查看 arXiv 页面 (https://arxiv.org/abs/2605.16147) 查看 PDF (https://arxiv.org/pdf/2605.16147) 项目页面 (https://quickjkee.github.io/registers-project-page/) GitHub7 (https://github.com/quickjkee/register-guidance) 添加至收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.16147)

在你的代理中获取此论文：

hf papers read 2605\.16147

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型链接此论文

请在模型 README.md 中引用 arxiv.org/abs/2605.16147 以在此页面建立链接。

引用此论文的数据集 0

没有数据集链接此论文

请在数据集 README.md 中引用 arxiv.org/abs/2605.16147 以在此页面建立链接。

引用此论文的 Spaces 0

没有 Space 链接此论文

请在 Space README.md 中引用 arxiv.org/abs/2605.16147 以在此页面建立链接。

包含此论文的收藏 0

没有包含此论文的收藏

请将此论文添加至一个收藏 (https://huggingface.co/new-collection) 以在此页面建立链接。