论文页面 - D-OPSD：用于连续微调步长蒸馏扩散模型的同策略自蒸馏

来源: https://huggingface.co/papers/2605.05204 作者:

,

,

,

,

,

,

,

,

摘要

一种名为 D-OPSD 的新训练方法，通过利用文本和多模态特征的同策略自蒸馏，在保留少步推理能力的同时，实现了扩散模型的高效监督微调。

高性能图像生成模型领域正从低效的多步模型向高效的少步模型（例如 Z-Image-Turbo 和 FLUX.2-klein）转变。然而，这些模型在直接进行连续监督微调时面临重大挑战。例如，应用常用的微调技术会损害其固有的少步推理能力。为了解决这一问题，我们提出了 D-OPSD，这是一种用于步长蒸馏扩散模型的新型训练范式，使得在监督微调期间能够实现同策略学习。

我们首先发现，以 LLM/VLM 作为编码器的现代扩散模型可以继承其编码器的上下文学习能力。这使我们能够将训练过程转化为同策略自蒸馏过程。具体而言，在训练过程中，模型同时充当具有不同上下文的教师和学生：学生仅以文本特征为条件，而教师则以文本提示和目标图像的多模态特征为条件。训练旨在最小化学生自身 rollout 上两个预测分布之间的差异。通过在模型自身的轨迹上进行优化并在其自身监督下学习，D-OPSD 使模型能够在不牺牲原有少步能力的前提下学习新概念、新风格等。

查看 arXiv 页面 (https://arxiv.org/abs/2605.05204) 查看 PDF (https://arxiv.org/pdf/2605.05204) 项目页面 (https://vvvvvjdy.github.io/d-opsd/) GitHub (https://github.com/vvvvvjdy/D-OPSD) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2605.05204)

在您的智能体中获取此论文：

hf papers read 2605.05204

还没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

没有链接到此论文的模型

在模型 README.md 中引用 arxiv.org/abs/2605.05204 即可从此页面建立链接。

引用此论文的数据集 0

没有链接到此论文的数据集

在数据集 README.md 中引用 arxiv.org/abs/2605.05204 即可从此页面建立链接。

引用此论文的 Spaces 0

没有链接到此论文的 Space

在 Space README.md 中引用 arxiv.org/abs/2605.05204 即可从此页面建立链接。

包含此论文的收藏集 1