标签
该论文表明,REPA 和分散正则化等扩散模型训练加速方法主要重组 AdaLN-Zero 残差门控 α,并提出了一种无需教师模型的径向目标,通过扩大门控参与范围,改善 SiT-B/2 在 ImageNet 256×256 上的 FID。
该论文提出扩散Transformer的训练加速部分源于AdaLN-Zero残差门控α的重组,并引入归一化参与度比(nPR)和一种无教师的径向目标,在ImageNet 256x256上以SiT-B/2改进了FID。