attention-head-reweighting

介绍了一种数据高效方法——注意力头重加权（AHR），通过为每个注意力头学习单个标量来适配大语言模型至文本分类任务，大幅减少可训练参数，同时在有限数据场景下优于LoRA。