tensor-compression

本文介绍 Brevis，一种无损张量压缩方法，它将压缩形式化为使用类型化 DSL 的程序合成。该方法在公开检查点上实现了 33.93% 的存储缩减，性能优于通用压缩器和张量专用压缩器。

论文介绍了MESH-FL，一种用于边缘设备上多模态联邦学习的熵引导矩阵乘积态压缩框架。它自适应地分配每层和每种模态的压缩秩，在异构树莓派集群上实现了高达56.8倍的压缩，并在最终准确率上比未压缩的FedAvg提升了2.01%。

0xSero 发布了腾讯 Hy3-preview 模型的 FP8 和 NVFP4 量化版本，使其能够在使用完整上下文的情况下在 256GB 显存的设备上运行。