标签
本文在使用分块 KV 缓存压缩的模型中发现了“相位敏感性”现象：检索准确率以与压缩步长相同的周期振荡，在 128K token 时甚至会导致答案翻转或长上下文准确率偏移高达 40 个百分点。通过受控的 0.6B 预训练实验，该效应被证实源自压缩机制本身。