frequency-guided

提出FreqDepthKV，一种用于长上下文LLM推理中KV缓存压缩的频率引导深度共享方法。该方法将相邻层的KV状态分解为共享的低频成分和稀疏的高频残差，在保证基准测试精度的同时提升内存效率和吞吐量。