adaptive-exit

本文探索了使用Mamba和混合Mamba-Transformer骨干网络的循环（递归）状态空间语言模型，表明其在推理任务上优于非循环基线，并在等参数和等FLOPs预训练下保持竞争力，同时自适应退出状态选择改善了中间深度性能。