标签
Codec-Gauge 为Transformer KV缓存学习小型正交通道变换(度量),以在固定比特率下提高压缩保真度,显著降低多个模型和后端上的KL散度。
Nigel Tao介绍了Handsum,一种基于DCT的新型固定大小LQIP图像文件格式,与JPEG相比,提供可预测的文件大小和简单性。
CHIAR-Former使用基于谱熵的路由,动态选择DCT、RBF和自注意力算子,在大规模文本数据集上实现了效率提升,同时通过混合注意力机制保持性能。