heterogeneous-fusion

本文提出激活-剪枝-合并（APM），一个无训练的跨尺度融合框架，通过使用更大的供体模型来改进较小的语言模型，无需语义对齐，在多个基准测试中取得了性能提升。