calibration-free

标签

Cards List
#calibration-free

ReRound:重建式舍入以解决无校准LLM量化中的中点模糊性

Hugging Face Daily Papers · 2026-08-11 缓存

ReRound是一种训练后量化方法,使用条件扩散模型来引导接近中点的权重的舍入,在3位和4位量化下提高小型LLM的准确性,且不引入推理开销。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈