论文页面 - OrbitQuant：面向图像和视频扩散变压器的数据无关量化

来源：https://huggingface.co/papers/2607.02461

摘要

OrbitQuant 利用归一化旋转基实现了扩散变压器的高效训练后量化，该基消除了跨不同时间步和模态重新校准的需求。

扩散变压器 (https://huggingface.co/papers?q=Diffusion%20transformers)（DiT）在图像和视频生成 (https://huggingface.co/papers?q=video%20generation) 领域达到了最先进的水平，但其多步采样和不断增长的参数量使得推理成本高昂。训练后量化 (https://huggingface.co/papers?q=Post-training%20quantization)（PTQ）是自然的解决方案，但 DiT 的激活值会随时间步、提示和指导分支发生变化，迫使先前的方法为每个新的检查点或模态重新拟合校准数据。我们提出了 OrbitQuant，这是一种数据无关的权重-激活量化器 (https://huggingface.co/papers?q=weight-activation%20quantizer)，它通过在归一化旋转基中进行量化来绕过范围估计。在该基中，随机排列块-哈达玛 (https://huggingface.co/papers?q=randomized%20permuted%20block-Hadamard)（RPBH）旋转将每个坐标集中在一个固定的、已知的边际周围，而与输入无关，因此单个 Lloyd-Max 码书 (https://huggingface.co/papers?q=Lloyd-Max%20codebook) 即可服务于给定输入维度的所有时间步、提示和层。我们将相同的量化器扩展到权重行的离线量化，将旋转吸收到权重中，使其在每个线性层内部抵消，运行时仅需对激活值进行一次前向旋转。同样的配方无需针对每种模态进行调优即可从图像迁移到视频。在 FLUX.1、Z-Image-Turbo、Wan 2.1 和 CogVideoX 上，它在几种低位设置下为 PTQ 树立了新的标杆。它还推动图像扩散变压器 (https://huggingface.co/papers?q=diffusion%20transformers) 的 PTQ 达到了 W2A4 且具备可用的生成质量。

查看 arXiv 页面 (https://arxiv.org/abs/2607.02461)
查看 PDF (https://arxiv.org/pdf/2607.02461)
项目页面 (https://saurabhcantina.github.io/orbitquant/)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.02461)

在您的 agent 中获取这篇论文：

hf papers read 2607.02461

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型 0

没有模型与本论文关联

在模型 README.md 中引用 arxiv.org/abs/2607.02461 即可在此页面建立链接。

引用本论文的数据集 0

没有数据集与本论文关联

在数据集 README.md 中引用 arxiv.org/abs/2607.02461 即可在此页面建立链接。

引用本论文的 Spaces 0

没有 Space 与本论文关联

在 Space README.md 中引用 arxiv.org/abs/2607.02461 即可在此页面建立链接。

包含本论文的收藏 1