标签
LatentPress介绍了一种将对话和文档上下文压缩为连续记忆令牌的方法，使冻结解码器无需文本重建即可直接读取，实现更高的压缩比并在长上下文任务上提升性能。
提出SOLAR，一种辅助微调目标，通过跨语言对齐软令牌表示来提高多语言推理一致性，准确率提升高达+17.7个百分点。
SKIM是一个自适应多分辨率软令牌压缩框架，用于压缩面向LLM的程序性技能，在降低预填充成本和延迟的同时保持任务性能。