标签
本文提出了一种针对离散视觉标记化的统一率失真视角，解决了关于量化目标和比较的关键问题，并表明在受控条件下，向量量化实现了最低的失真。
HeadWiseKV 是一个无需训练的框架，用于压缩混合长上下文语言模型中的KV缓存，在保持质量的同时减少GPU内存使用并扩展上下文长度。
本文在率失真框架下统一了大语言模型和智能体中的内存压缩技术，提出了一个用于评估不同层压缩的分类法和基准。
FRAPPE是一种新颖的自编码框架，使用投影追踪编码器从完整输入预测残差，实现了高效的变速率图像压缩和快速的CPU编码。在高压缩比下，FRAPPE-Image在感知质量上优于AVIF，编码速度快47倍，使得仅使用CPU即可实现实时1080p 30fps编码。
本文介绍了 LiVeAction，这是一种专为资源受限设备上的实时操作而设计的轻量级神经编解码器。它利用类 FFT 结构和基于方差的率失真惩罚，在保持低功耗传感器实用性的同时，实现了卓越的率失真性能。