threshold-calibration

本文提出了SATS（面向稀疏性的敏感性感知阈值化）及令牌路由框架，通过动态稀疏化MLP激活，提升LLM推理效率。与基于百分位数的基线方法相比，这些方法实现了更优的质量-吞吐量权衡。