ultra-low-bit

本文将激活量化识别为超低比特量化多模态LLMs中的主要瓶颈，并提出残差回退量化（RFQ）以最小开销恢复性能。