Tag
提出 Squelch——一种无路由、无新增可训练参数的 rank-one LoRA 专家混合方法，通过噪声底限软阈值和 Stein 无偏风险估计为每个 token 自适应选择激活秩，并在常识推理、知识、数学、代码和 GLUE 基准上显著优于 LoRA 与最强混合基线。