标签
本文介绍了一种使用多臂老虎机(UCB1和Thompson采样)进行卷积神经网络损失感知的特征图剪枝框架,选择性移除冗余特征图,在降低计算成本的同时保持准确率。
LACE-SVD是一种新颖的大语言模型低秩压缩方法,采用损失感知的秩分配策略和传播感知的纠正技术,以减轻残差流中的累积误差传播,在高压缩比下实现了比以往基于SVD的方法更好的困惑度。