routing-consistency

标签

#routing-consistency

面向混合专家模型路由一致量化的价值与结构对齐

arXiv cs.CL ↗ · 2026-06-05 缓存

本文提出VSRAQ，一种针对混合专家模型的训练后量化方法，通过对齐路由相关logits和专家排序来保持专家选择行为，从而减少量化引起的性能下降，且无推理开销。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈