adaptive-budget

ReFreeKV引入了一种无阈值的KV缓存压缩方法，自适应分配预算，消除了对输入特定阈值的需求，同时在各种数据集和模型大小上保持全缓存性能。