标签
耶鲁大学研究者利用影响函数在语言模型训练数据中识别间接证据，覆盖BLiMP中的15种语法现象。研究发现，移除影响力最强的句子会使留出集准确率的下降幅度显著高于随机移除对照句子，并进一步刻画了这类证据与语言学结构之间的关系。
本文提出了一种基于暴露的框架，用于研究LLM预训练过程中类似Grokking的延迟泛化现象，使用了BLiMP最小对立对和关键短语。作者观察到五种语法现象均出现延迟泛化，并分析了内部变化，如概念向量的可预测性和注意力头的集中。