cache-compression

标签

Cards List
#cache-compression

KVpop:基于预测性在线剪枝的键值缓存压缩

Hugging Face Daily Papers · 2026-07-06 缓存

KVpop提出了一种由未来注意力目标监督的学习型KV缓存驱逐策略,在Qwen3模型上实现了高压缩率(例如,75%压缩率下保持98%性能),同时保持质量。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈