adaptive-compression

本文提出了一种针对基于边缘的RAG系统的遥测信息驱动的自适应压缩方案，实验表明中间压缩可以将GPU能耗降低高达53.2%，且质量损失可忽略不计。

本文介绍了OPTD，一种用于少步扩散语言模型的、具有一致性引导自适应压缩的在策略转移蒸馏方法，在四个推理和代码生成基准上改善了质量-效率权衡。

本文提出了一种自适应视频令牌化方法，利用潜在空间中的时间冗余动态分配令牌，实现高效压缩，无需辅助网络。所提出的潜在修补变压器（Latent Inpainting Transformer）重建被丢弃的位置，相比ElasticTok-CV实现31倍加速，相比InfoTok实现2倍加速。