hybrid-swa

详细介绍了小米 MiMo-V2.5 系列的端到端推理优化，结合混合滑动窗口注意力、稀疏 MoE 激活和多模态编码器，在长上下文和多模态场景中实现接近理论的效率提升。