adaptive-temperature

Tag

Cards List
#adaptive-temperature

TempQuant: Learning Adaptive Temperatures for Quantized Language Models

arXiv cs.LG ↗ · 4d ago Cached

TempQuant 提出自适应学习量化语言模型的温度与 top-p 设置,通过校准使量化模型的下一词元概率分布更接近全精度模型,在 3-bit Qwen3-4B 上将 MATH 准确率从 34% 提升至 51%。

0 favorites 0 likes
← Back to home

Submit Feedback