minimax-risk

标签

Cards List
#minimax-risk

KV缓存压缩的风险

arXiv cs.LG · 2天前 缓存

本文从理论上刻画了变压器中KV缓存压缩的极小极大风险,为因果掩码下的精确压缩提供了设计原则,并将其实例化到实用算法中,在LongBench上取得了有前景的结果。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈