singular-direction

研究人员提出了一种针对混合专家模型的新型路由器重新设计，利用流形幂迭代将路由器行与主奇异方向对齐，从而提升模型效果。