multi-token-residual-prediction

介绍了多令牌残差预测（MRP）技术，该技术通过预测相邻去噪步骤之间的残差来加速扩散语言模型推理，在 SGLang 中实现了最高 1.56 倍的速度提升，并在激进解码设置中恢复了最高 +16 的准确率点数。