repair-methods

标签

Cards List
#repair-methods

连续性而非重要性:文档编辑后陈旧KV缓存的预算修复

arXiv cs.AI · 昨天 缓存

本文研究了文档编辑后LLM系统中陈旧KV缓存的预算修复方法,证明了连续的编辑本地窗口能有效恢复性能,并且比完全重新预填充更快。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈