vq-vae

下一概念建模（NCM）提出一种由粗到细的两阶段框架，利用多尺度残差向量量化变分自编码器（VQ-VAE）将文本编码为层级离散码，并逐层并行生成，在 LM1B、OpenWebText 与 XSum 上实现 10-31 倍加速，同时达到或超越最强扩散语言模型基线的性能，并在数独推理任务上显著优于自回归与扩散基线。

本文识别了优先级经验回放中的组内自我选择偏差，并提出了兄弟感知方法来纠正结果分布扭曲，从而提高强化学习的学习效率。

SupraLabs 发布了 Supra-A2A-Nano-Exp，这是一个小型任意到任意自回归模型，将文本和图像标记化统一到单个 Transformer 中，作为教育原型而非生产就绪系统。

SimPersona 使用 VQ-VAE 从原始点击流中学习离散的买家画像，并将其映射为 LLM 驱动的网络代理的画像令牌，在多个在线商店中实现了高转化率对齐。

本文探讨了VQ-VAE中常见的维度坍塌问题，指出模型表示通常局限于低维子空间。研究提出了一种“自编码器预热（AE Warm-Up）”策略，即首先将模型作为未量化的自编码器进行训练，从而提升重建质量并增加潜在空间的有效维度。

一篇教育性博客文章，讲解向量量化变分自编码器（VQ-VAE）架构——OpenAI DALL-E 图像生成模型的关键组成部分。

# Jukebox 来源：[https://openai.com/index/jukebox/](https://openai.com/index/jukebox/) 自动音乐生成的历史已有半个多世纪\.[1](https://openai.com/index/jukebox/#citation-bottom-1),[2](https://openai.com/index/jukebox/#citation-bottom-2),[3](https://openai.com/index/jukebox/#citation-bottom-3),[4](https://openai.com/index/jukebox/#citation-bottom-4)一个主要的方法是以钢琴卷的形式生成符号音乐，它指定了时序和音高