quantized-llm

本文通过一个基于分类法的分析，对多个模型和基准测试中的30,000个思维链输出进行研究，证明了训练后量化可以无声地改变大语言模型的推理方式，即使任务准确性保持不变。