标签
本文对十种语言的抽取式提示压缩器进行了审计，揭示了经过英语训练的模型在高压缩率下对非英语文本存在显著性能差距，并提出了一种更有效的“先翻译再压缩”流程作为替代方案。
AGORA 引入了一种用于LLM代理的无推理步骤级提示压缩器，避免了令牌级压缩器的'动作语法破坏'失效模式。它通过结构解析器、始终保留底限以及学习的相关性评分器，在9个环境中的8个（跨骨干网络）保留了≥75%的未压缩性能。