标签
本文研究了在大型语言模型（LLM）中剪枝注意力层对解释忠实性和置信度校准的影响，发现准确率通常保持较高，但可解释性和可靠性下降，凸显了模型置信度、可解释性与准确率之间的失调。
一项实证研究，研究长篇幅、语义密集的良性文本如何偏移模型的潜在空间轨迹，稀释初始系统提示，并绕过训练后对齐约束——如在闭源和开源模型中所观察到的那样。