变分有损自编码器

OpenAI Blog 论文

摘要

# 变分有损自编码器 来源: [https://openai.com/index/variational-lossy-autoencoder/](https://openai.com/index/variational-lossy-autoencoder/) ## 摘要 表示学习旨在将观测数据的某些方面暴露在学习表示中,这种表示便于分类等下游任务。例如,对于二维图像,一个好的表示可能是只描述全局结构并丢弃有关详细纹理信息的表示。在本文中,我们提出

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/04/20 14:51

# 变分有损自编码器 来源:https://openai.com/index/variational-lossy-autoencoder/ ## 摘要 表示学习旨在将观察到的数据的某些方面暴露在学习表示中,这种表示易于用于下游任务,如分类。例如,2D 图像的良好表示可能是仅描述全局结构而丢弃有关详细纹理信息的表示。在本文中,我们提出了一种简单但有原则的方法来学习这样的全局表示,它结合了变分自编码器(VAE)与神经自回归模型,如 RNN、MADE 和 PixelRNN/CNN。我们提出的 VAE 模型允许我们控制全局潜在编码可以学习的内容,通过相应地设计架构,我们可以强制全局潜在编码丢弃不相关的信息,例如 2D 图像中的纹理,因此 VAE 仅以有损的方式"自编码"数据。此外,通过将自回归模型用作先验分布 p(z) 和解码分布 p(x|z),我们可以大幅改进 VAE 的生成建模性能,在 MNIST、OMNIGLOT 和 Caltech-101 Silhouettes 密度估计任务上取得了新的最先进结果。

相似文章

ELVAE:基于证据学习的变分自编码器用于不确定性感知生成

arXiv cs.LG

介绍了ELVAE,一种采用证据学习的VAE,通过正态-逆伽马后验对潜在坐标进行建模,以获得显式的不确定性估计。在MNIST上的实验表明,类内不确定性排序可以对合成样本的可靠性和压力测试进行分层,但结果需要按类别归一化,且在不同随机种子间存在差异。

V-RAE:重新思考视频潜在空间用于生成

Hugging Face Daily Papers

V-RAE提出了一种视频表示自编码器,它从冻结的视觉表示中构建语义组织的潜在表示,以提升视频生成质量、收敛速度和预测建模。

Sparse Autoencoders as Plug-and-Play Firewalls for Adversarial Attack Detection in VLMs

Hugging Face Daily Papers

# Paper page - Sparse Autoencoders as Plug-and-Play Firewalls for Adversarial Attack Detection in VLMs Source: [https://huggingface.co/papers/2605.07447](https://huggingface.co/papers/2605.07447) ## Abstract SAEgis detects adversarial attacks on vision\-language models using sparse autoencoders trained for reconstruction, achieving strong performance across domains without additional training\. [Vision\-language models](https://huggingface.co/papers?q=Vision-language%20models)\(VLMs\) have advan