标签
Halogen 版本 0.12.0 修复了高上下文深度下的性能下降问题,展示了在 AMD Ryzen AI Max+ 硬件上,Qwen3.8-Flash-Next 在 100万令牌上下文时的解码和预填充速度的提升。
本文介绍了推测性草稿树,通过丰富候选草稿和使用贪婪拒绝采样来加速扩散模型采样,实现了比基线方法高达8.3%的加速。