contextual-residuals

本文介绍了残差上下文扩散（RCD）模块，该模块通过回收扩散语言模型中丢弃的令牌表示来提高效率和准确性，在具有挑战性的推理任务上实现了5–10%的准确性提升，并将去噪步骤减少了多达4–5倍。