Empirical Variational Autoencoder(经验变分自编码器)

Hugging Face Daily Papers 论文

摘要

Empirical Variational Autoencoder(EVA)是一种面向连续值序列的通用生成框架,它通过训练数据经验性地学习自回归潜在先验,缓解了传统VAE中先验与后验之间的差距,并在推理速度大幅提高的情况下,取得了与自回归扩散基线相媲美的生成质量。

我们提出 Empirical Variational Autoencoder(EVA),一种面向连续值(即非向量量化)序列的通用生成框架。EVA 基于变分自编码器(VAE)的证据下界(evidence lower bound),但通过训练数据经验性地学习自回归潜在先验,这一过程仅需在 VAE 之上额外添加一个线性层即可实现。通过用自预测先验替换传统的标准高斯约束,EVA 显著缓解了传统 VAE 中普遍存在的先验与后验之间的潜在分布差距,从而为序列数据生成实现了高保真的祖先采样(ancestral sampling)。在图像与声音合成上的大量实验表明,尽管推理时间大幅缩短,EVA 仍能达到与自回归扩散基线相竞争的生成质量。
查看原文
查看缓存全文

缓存时间: 2026/10/06 16:57

论文页面 - 经验变分自编码器

来源:https://huggingface.co/papers/2610.06545

摘要

我们提出经验变分自编码器(Empirical Variational Autoencoder,EVA),一个面向连续值序列(即非向量量化序列)的通用生成框架。EVA 基于变分自编码器(VAE)的证据下界(evidence lower bound),但通过训练数据经验性地学习自回归隐变量先验,其实现只需在 VAE 之上添加一个额外的线性层。通过用自预测先验替代传统的标准高斯约束,EVA 显著缓解了传统 VAE 中常见的先验与后验之间的隐变量分布差距,从而为序列数据生成带来高保真度的祖先采样。在图像与声音合成上的大量实验表明,尽管 EVA 的推理速度快得多,其生成质量仍能与自回归扩散基线相媲美。

查看 arXiv 页面 查看 PDF 项目页面 GitHub 0 添加到收藏

在你的 Agent 中获取这篇论文:

hf papers read 2610.06545

还没有最新的 CLI?

curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

没有关联到本文的模型。

在模型 README.md 中引用 arxiv.org/abs/2610.06545 即可从此页面链接过去。

引用本文的数据集 0

没有关联到本文的数据集。

在数据集 README.md 中引用 arxiv.org/abs/2610.06545 即可从此页面链接过去。

引用本文的 Spaces 0

没有关联到本文的 Space。

在 Space README.md 中引用 arxiv.org/abs/2610.06545 即可从此页面链接过去。

收录本文的合集 0

没有收录本文的合集。

将本文添加到合集即可从此页面链接过去。

相似文章

ELVAE:基于证据学习的变分自编码器用于不确定性感知生成

arXiv cs.LG

介绍了ELVAE,一种采用证据学习的VAE,通过正态-逆伽马后验对潜在坐标进行建模,以获得显式的不确定性估计。在MNIST上的实验表明,类内不确定性排序可以对合成样本的可靠性和压力测试进行分层,但结果需要按类别归一化,且在不同随机种子间存在差异。

变分有损自编码器

OpenAI Blog

# 变分有损自编码器 来源: [https://openai.com/index/variational-lossy-autoencoder/](https://openai.com/index/variational-lossy-autoencoder/) ## 摘要 表示学习旨在将观测数据的某些方面暴露在学习表示中,这种表示便于分类等下游任务。例如,对于二维图像,一个好的表示可能是只描述全局结构并丢弃有关详细纹理信息的表示。在本文中,我们提出

先连续后离散:解决维度坍塌问题的VQ-VAE

arXiv cs.LG

本文探讨了VQ-VAE中常见的维度坍塌问题,指出模型表示通常局限于低维子空间。研究提出了一种“自编码器预热(AE Warm-Up)”策略,即首先将模型作为未量化的自编码器进行训练,从而提升重建质量并增加潜在空间的有效维度。

V-RAE:重新思考视频潜在空间用于生成

Hugging Face Daily Papers

V-RAE提出了一种视频表示自编码器,它从冻结的视觉表示中构建语义组织的潜在表示,以提升视频生成质量、收敛速度和预测建模。