sparse-experts

PuzzleMoE 提出了一种成对双掩码专家合并算法和位级打包技术，用于压缩大型混合专家模型，在保持性能的同时减少存储并加速推理。