collaborative-experts

标签

#collaborative-experts

Colla-Q：通过最小最大精度平衡在MoE量化中实现协作专家

arXiv cs.LG ↗ · 2026-09-17 缓存

本文介绍了Colla-Q，一种基于激活熵的比特分配框架，用于量化混合专家模型，以平衡专家性能，提高整体模型效率并减少对校准数据集的依赖。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈