flashmorph

FlashMorph 是一种高效的层选择方法，将混合层选择表述为预算约束优化问题，利用可变形模型和线性化正则化来提高 Transformers 中的长上下文效率。