标签
本文提出UniF-MoE，一种用于Token自适应混合专家计算的统一框架，该框架首先共享专家间的可复用计算，然后路由剩余的残余需求，从而在DomainBed和GLUE基准上提升性能，同时减少激活计算量、延迟和内存占用。