adaptive-mixed-precision

#adaptive-mixed-precision

FAMPWQ：基于Fisher信息的自适应混合精度权重量化，用于高效LLM推理

arXiv cs.LG ↗ · 2026-08-27 缓存

FAMPWQ提出了一种基于Fisher信息的自适应混合精度权重量化方法，用于在资源受限设备上实现高效LLM推理，在困惑度、准确性和判断比较方面显著优于基线方法。

0 人收藏 0 人点赞