标签
本文识别了基于模型的推测解码在大语言模型中的新漏洞：微小扰动可以在不影响输出质量的情况下降低草稿令牌接受率，从而使加速效果崩溃。作者提出了Mistletoe攻击，该攻击联合优化退化与语义保持，展示了在各种系统上显著的加速降低效果。