标签
本文提出了一种针对批量推理中大型推理模型的无需训练自适应剪枝方法，采用周期性 top-k 选择和激活记忆以提高准确性和计算效率。
本研究揭示了一个“智能剪枝悖论”：诸如 Wanda 等激活感知剪枝方法虽然保持了困惑度，但在边缘设备上部署的大语言模型中显著放大了偏见。