adaptive-compression

VisionWeave 引入了弹性视觉表征编织能力，作为多模态大语言模型（MLLM）的原生特性。该方法结合了门控空间池化器（Gated Spatial Pooler）与粒度路由器（Granularity Router），能够自适应地分配视觉 token。基于 Qwen3.8-27B 构建，VisionWeave 在保留 98.9% 性能的同时节省了 43.0% 的 token，并在 SGLang 推理服务中实现了 2.3 倍的吞吐量提升。

论文提出了HasMem，一种用于长期LLM代理的自适应记忆压缩方法，该方法在保持冻结的LLM参数的同时调整记忆宽度，在重建和问答基准测试中展示了改进的性能。

本文提出了一种针对基于边缘的RAG系统的遥测信息驱动的自适应压缩方案，实验表明中间压缩可以将GPU能耗降低高达53.2%，且质量损失可忽略不计。

本文介绍了OPTD，一种用于少步扩散语言模型的、具有一致性引导自适应压缩的在策略转移蒸馏方法，在四个推理和代码生成基准上改善了质量-效率权衡。

本文提出了一种自适应视频令牌化方法，利用潜在空间中的时间冗余动态分配令牌，实现高效压缩，无需辅助网络。所提出的潜在修补变压器（Latent Inpainting Transformer）重建被丢弃的位置，相比ElasticTok-CV实现31倍加速，相比InfoTok实现2倍加速。