nested-subnetworks

FlexMoE提出了一种面向MoE语言模型的一体通用嵌套式专家内部剪枝方法，能够在单次训练中生成多个可部署的子网络，且性能损失极小。