标签
本文提出'Early-Bird Decoding',这是一个通过可学习块大小和并行采样来加速扩散大语言模型的框架,在不修改预训练权重的情况下实现了显著的吞吐量提升。
本文提出了基于表示的遮蔽扩散模型(RMDM),该模型利用文本表示来改进遮蔽扩散模型中的并行令牌更新,特别是在少步采样中提升生成质量。
本文识别了智能体搜索中的锚点坍塌现象,即并行轨迹因相似的初始查询而收敛,并提出了 DivInit,一种无需训练的方法,通过采样多样的初始查询来提升多跳问答的性能。
本文将语言生成重新表述为随机最优控制问题,解决了自回归和扩散模型的局限性,并提出了使用Flow Matching在潜在控制空间中的闭环扩散方法,实现了高保真生成和高效并行采样。