attention-behavior

REAL引入了一种注意力行为矩阵，用于分析成功与失败案例中注意力头的行为，从而实现更有效的KV缓存驱逐。它在达到与最强基线相当准确度的同时，所需空间减少32倍。