range-searching

标签

#range-searching

将稀疏注意力作为范围搜索问题：迈向推理高效的 KV 缓存索引

arXiv cs.LG ↗ · 2026-05-11 缓存

本文介绍了 Louver，这是一种用于 KV 缓存检索的新型索引结构。它将稀疏注意力重新表述为范围搜索问题，保证零假阴性，并且比现有方法更高效。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈