layerwise-sparsity

PALS根据激活幅度的99百分位数调整大语言模型剪枝中的每层稀疏比，在LLaMA-2-7B上相比均匀稀疏实现了显著困惑度改进，且附加成本可忽略不计。