FFJORD: 用于可扩展可逆生成模型的自由形式连续动力学
摘要
FFJORD 引入了一种可扩展的可逆生成模型,使用连续动力学和 Hutchinson 迹估计器实现无偏对数密度估计,无需架构约束。该方法在密度估计和图像生成方面达到了最先进的结果,同时保持高效的采样。
暂无内容
查看缓存全文
缓存时间: 2026/04/20 14:45
# FFJORD:用于可扩展可逆生成模型的自由形式连续动力学
来源:https://openai.com/index/ffjord/
## 摘要
一类很有前景的生成模型通过可逆神经网络将点从简单分布映射到复杂分布。这些模型的似然函数训练需要限制架构以允许廉价计算雅可比行列式。或者,如果变换由常微分方程指定,则可以使用雅可比迹。在本文中,我们使用Hutchinson的迹估计器来提供对数密度的可扩展无偏估计。结果是一个连续时间可逆生成模型,具有无偏密度估计和单次采样,同时允许不受限制的神经网络架构。我们在高维密度估计、图像生成和变分推断上展示了我们的方法,在具有高效采样的精确似然方法中达到了最先进的水平。
相似文章
DiffoR:一种用于通用序数回归的统一连续生成框架
DiffoR 提出了一种利用扩散模型进行序数回归的新型连续生成框架,克服了离散方法的局限性。在12个基准数据集上的大量实验表明,该方法在四个领域均达到了最先进的性能。
x-Prediction 即一切:通过端点可解码性实现无需训练加速生成
本文介绍了截断跳跃采样(Truncated Jump Sampling, TJS),这是一种无需训练的方法,通过利用端点可解码性加速扩散模型和流匹配模型的生成,将神经函数评估次数减少20-70%,同时在多个模型上保持接近匹配的质量。
FFAvatar: 少样本、前馈、可泛化的头像重建
FFAvatar提出了一种前馈框架,能在数秒内从少量非摆拍图像中重建高质量、可动画的3D高斯头部头像,在NeRSemble基准测试上相比现有最优方法实现了5.5 PSNR的提升。
Flow-Direct: 通过非参数引导场实现高效反馈与可复用的流模型引导
Flow-Direct 提出了一种用于基于流的生成模型的非参数引导场,该引导场持续累积奖励反馈,提高了反馈效率,并使得收集的样本可重复用于引导多目标生成,无需额外的奖励评估。
用于视觉生成的表示 Fréchet 损失
本文介绍了 FD-loss,一种通过将总体规模与批次规模解耦,从而将 Fréchet 距离作为视觉生成的训练目标进行优化的方法。研究证明该方法能提高生成器的质量,并指出 FID 可能无法始终准确反映视觉质量。