verbatim-extraction

本文研究填充中间（FIM）预训练对逐字记忆的影响，发现FIM更常恢复短片段，而标准的从左到右训练恢复长的精确延续，且FIM下的记忆随重复次数线性增长。