rag-efficiency

标签

#rag-efficiency

AdaMem: 用于检索增强生成中软压缩的自适应内存令牌分配

arXiv cs.CL ↗ · 2026-09-22 缓存

AdaMem 引入了一个相关性引导的软压缩框架，该框架在检索增强生成中自适应地分配内存令牌，以更高的准确率和更低的延迟超越了均匀分配方法。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈