decoding-time-intervention

本文提出了一种黑盒方法，通过学习一个上下文无关的logit偏置向量，在每个解码步骤中添加该向量，从而在不修改模型权重或需要梯度的情况下提升数学和推理任务的性能。