UniEvo-VL：面向多模态模型自我提升的在线自蒸馏训练方案

Hugging Face Daily Papers 论文
multimodal self-improvement self-distillation diffusion image-generation reinforcement-learning

摘要

UniEvo-VL 提出了一种在线自蒸馏训练方案：同一个多模态模型既作为教师（以其自身享有的特权自评信息为条件），又作为学生，在 GenEval 上将 Qwen-Image-2512 的图像生成能力从 0.747 提升到 0.808，且无需任何外部监督。

现代多模态模型将生成与理解统一到同一个系统中，使其能够提供并利用自身的反馈进行学习。受这一统一能力的启发，我们提出了 UniEvo-VL，一个多模态模型自我进化框架，使其能在测试时计算中从这种建设性的自我纠错反馈中学习。我们并不依赖一个独立的（通常规模更大的）教师模型，而是利用模型自身的自评作为特权信息，让同一个多模态模型在不同上下文下同时扮演教师和学生两个角色。学生只能看到原始问题，而教师则以特权自评为条件。随后，训练通过最小化两者在学生自身采样轨迹上、每个状态下的去噪扩散分布之间的散度来进行。实验表明，UniEvo-VL 在提升多模态模型图像生成能力的同时，保持了它们对额外反思信息的敏感度。具体来说，我们在开源的 Qwen-Image-2512 上进行构建，观察到其在 GenEval 上的性能显著提升，从 0.747 提高到 0.808，在 GenEval2 Soft-TIFA 上则从 32.97 提升至 35.53。此外，尝试使用更强大的外部评判者（例如 GPT5.6-Luna）表明，具备强大判断能力的多模态模型能够达到更高的自我进化上限。最后，文本渲染方面参差不齐的结果显示，我们的自我改进在不同任务上可能并不均匀。我们的研究旨在为当前热门的递归自我改进研究方向提供启示，在无需外部监督或引导的情况下提升用户使用多模态模型时的体验。
查看原文
查看缓存全文

缓存时间: 2026/10/01 08:24

论文页面 - UniEvo-VL：面向多模态模型自我改进的在线自蒸馏训练配方

来源：https://huggingface.co/papers/2609.38721 发布于 9 月 30 日

#2 当日最佳论文 (https://huggingface.co/papers/date/2026-10-01) 作者：

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

现代多模态模型将生成与理解统一到同一个系统中，使其能够提供并从自身反馈中学习。受这种统一能力的启发，我们提出了 UniEvo-VL——一个让多模态模型在测试时计算中，从这种建设性的自我修正反馈中学习的自进化框架。我们不依赖独立的、往往更大的教师模型，而是将模型自身的自我批评视为特权信息，让同一个多模态模型在不同上下文中同时扮演教师与学生。学生只看到原始问题，而教师则以上述特权批评为条件。随后，训练过程在学生自身的采样轨迹上，最小化两者去噪扩散分布之间的逐状态散度。实验表明，UniEvo-VL 提升了多模态模型的图像生成能力，同时保留了它们对额外反思信息的敏感性。具体而言，我们基于开源的 Qwen-image-2512 构建该方法，观察到 GenEval 从 0.747 显著提升至 0.808，GenEval2Soft-TIFA 从 32.97 提升至 35.53。此外，使用更强的外部批评者（如 GPT5.6-Luna）进行的尝试表明，具备强评判能力的多模态模型有望达到更高的自我进化上限。最后但同样重要的是，混合文本渲染结果表明，我们的自我改进在不同任务上可能并不均衡。本研究旨在为当前热门的递归自我改进研究方向提供新的视角，在无需外部监督或引导的情况下提升多模态模型的使用体验。

查看 arXiv 页面 (https://arxiv.org/abs/2609.38721) 查看 PDF (https://arxiv.org/pdf/2609.38721) 加入合集 (https://huggingface.co/login?next=%2Fpapers%2F2609.38721)

在你的 agent 中获取这篇论文：

hf papers read 2609\.38721

还没有最新版 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本论文的模型 0

没有模型关联到本论文

在模型的 README.md 中引用 arxiv.org/abs/2609.38721，即可在本页面建立链接。

引用本论文的数据集 0

没有数据集关联到本论文

在数据集的 README.md 中引用 arxiv.org/abs/2609.38721，即可在本页面建立链接。

引用本论文的 Spaces 0

没有 Space 关联到本论文

在 Space 的 README.md 中引用 arxiv.org/abs/2609.38721，即可在本页面建立链接。

包含本论文的合集 1

相似文章

基于噪声学生在线策略自蒸馏的自增强视觉语言模型

arXiv cs.LG

提出NOPD，一种自蒸馏方法，通过利用干净输入和损坏输入之间的预测差异，在没有外部监督的情况下改进视觉语言模型。在视觉推理任务上取得了显著提升，匹配或超过了强化学习和来自外部模型的蒸馏。

OPD-V：具有模态平衡的视觉在策略自蒸馏

Hugging Face Daily Papers

介绍了 OPD-V，一种用于多模态大语言模型的视觉在策略自蒸馏范式，利用正负教师将模态平衡作为特权信息，在降低训练成本的同时提高跨基准的推理性能。

UniSD：面向大型语言模型的统一自蒸馏框架

Hugging Face Daily Papers

本文提出了 UniSD，这是一种用于适应大型语言模型的统一自蒸馏框架，整合了监督可靠性、表征对齐和训练稳定性的机制。实验结果表明，UniSD 在多个基准测试中均优于基础模型和现有基线方法。