input-compression

本文介绍了CAVEWOMAN，一种双通道评估协议，用于评估语言输入和输出压缩对LLM的影响。研究发现，输出压缩可降低成本，而输入压缩则会增加成本并降低准确性，挑战了常见的“穴居人风格”建议。