论文页面 - Nemotron-Labs-Diffusion-Uni：具备跨范式同策略蒸馏的弹性自优化统一扩散大语言模型

来源：https://huggingface.co/papers/2610.36466

摘要

NLD-Uni 是一种统一的离散扩散语言模型，通过跨范式同策略蒸馏和渐进式自优化扩散，将视觉理解与生成相结合\。

我们提出了 Nemotron-Labs-Diffusion-Uni (NLD-Uni)，这是一种用于视觉理解和生成任务的统一离散扩散大语言模型 (https://huggingface.co/papers?q=discrete%20diffusion%20large%20language%20model)(DLLM)\。与以往的统一扩散模型相比，NLD-Uni 引入了两项重大创新\。首先，我们提出了一种统一的跨范式同策略蒸馏 (https://huggingface.co/papers?q=cross-paradigm%20on-policy%20distillation)(OPD) 框架，成功地将自回归视觉语言模型的视觉理解能力和连续流模型的视觉生成能力迁移到统一的 DLLM 中\。其次，NLD-Uni 引入了一种新颖的渐进式自优化扩散 (https://huggingface.co/papers?q=progressive%20self-refining%20diffusion)过程，在训练期间通过多个步骤逐渐扰动每个词元，而非采用传统的掩码扩散 (https://huggingface.co/papers?q=masked%20diffusion)形式，直接将干净的图像词元扰动为不含信息的掩码词元\。在推理时，这种设计允许 NLD-Uni 对词元作出中间阶段的选择，从而实现渐进式自优化，以获得更好的视觉质量\。通过大量实验，我们表明，NLD-Uni 在视觉问答 (https://huggingface.co/papers?q=visual%20question-answering)、多模态推理 (https://huggingface.co/papers?q=multi-modal%20reasoning)、目标定位 (https://huggingface.co/papers?q=object%20grounding)、文本生成图像 (https://huggingface.co/papers?q=text-to-image%20generation) 和图像编辑等多种任务上，在统一 DLLM 中取得了最先进的性能\。

查看 arXiv 页面 (https://arxiv.org/abs/2610.36466)查看 PDF (https://arxiv.org/pdf/2610.36466)项目页面 (https://homepage.jackli.org/projects/nl-diffusion-uni/index.html)GitHub1 (https://github.com/NVlabs/Nemotron-Labs-Diffusion-Uni)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.36466)

在你的智能体中获取这篇论文：

hf papers read 2610\.36466

还没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型链接到这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.36466，即可从本页面链接到该模型\。

引用这篇论文的数据集0

没有数据集链接到这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.36466，即可从本页面链接到该数据集\。

引用这篇论文的 Spaces0

没有 Space 链接到这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.36466，即可从本页面链接到该 Space\。

收录这篇论文的合集0

没有合集收录这篇论文

将这篇论文添加到合集 (https://huggingface.co/new-collection)，即可从本页面链接到该合集\。