标签
提出了异步流映射语言模型(aFMLM),通过token级时间调度将预测顺序编码进单步生成的隐藏计算中,在Sudoku和GSM8K代码生成任务上刷新了一步生成的最先进性能。
GLOW-FM 是一个单步潜在流匹配框架,用于高效的生成式低光图像增强。它在冻结的 Tiny-VAE 潜在空间中执行条件传输,并通过末速度匹配(Terminal Velocity Matching)仅用一次函数评估即实现 SOTA 的跨数据集泛化能力,计算量仅为 34 GFLOPs。
本文提出了 Seq-Drifting 框架,通过对连续词元表示序列应用漂移,在单次前向传播中学习从高斯噪声到文本的映射,在 LM1B 上实现了 36.01 的生成困惑度,并相较于少步和多步扩散语言模型获得了显著的速度提升。
本文证明了 Drifting Models 与 Distribution Matching Distillation (DMD/DMD2) 在优化目标上的等价性,并基于此视角提出了改进的 Multi-Bandwidth Distribution Matching Distillation (MBDMD) 方法,用于提升一步生成模型的性能。
论文提出了奖励加权传输蒸馏(Reward-Weighted Transport Distillation, RWTD),这是一种针对单步生成模型的后训练方法,仅需生成样本和标量奖励即可工作,通过特征空间最优传输将倾斜后的当前分布与参考分布进行混合。该方法将 SanaSprint 1.6B 单步骨干模型的 GenEval 分数从 0.73 提升至 0.80,同时保持了组合能力。
介绍了一种名为三体散射建模(TBSM)的框架,用于学习传输场的一步生成建模。该方法在ImageNet-256上取得了具有竞争力的结果,并扩展到参数量高达200亿的文本到图像模型。
研究人员提出Latent Thought Flows,将256个文本令牌压缩为8个连续潜变量,实现单步生成,在推理计算与生成质量的帕累托前沿上优于自回归基线。
本文介绍了表示分布匹配(RDM),一种通过匹配预训练编码器下的特征分布来实现一步式图像生成的方法,在ImageNet上取得了最先进的结果,并能够将FLUX.2后训练为性能提升的一步生成器。
介绍跨空间蒸馏,这是一种通过轻量级潜在接口Bridge,将知识从现代高容量扩散模型迁移到具有不同潜在空间的紧凑学生模型的方法,无需修改学生主干即可实现质量提升。
斯坦福和字节跳动推出 W-Flow,一种单步生成模型,利用 Wasserstein 梯度流实现了最先进的单步 ImageNet 256x256 生成(FID 1.29),采样速度比多步扩散模型快 100 倍。
One-Forcing 通过用辅助 GAN 损失增强 DMD 目标,改进了单步视频生成,以更低的训练成本实现了最先进的性能。
介绍了Discrete MeanFlow,一种通过在离散状态空间中学习连续时间马尔可夫链的条件转移核来实现一步生成的方法,避免了迭代去噪。
研究者通过集成高判别力的大语言模型文本编码器,将 MeanFlow 一步图像生成从固定类别标签扩展到灵活文本输入,实现高效的文本条件合成并显著提升性能。