标签
一位用户发推文说正在下载第二个 K3 模型的完整 FP16 权重并储存起来，开玩笑地让其他人别锁门。
作者分享了对不同量化级别（如Q4_K_M、Q5_K_M）如何分别影响模型能力的系统测试的惊人结果，显示数学准确度下降幅度大于知识类任务，并呼吁对不同量化级别的上下文衰减进行更严格的测试。
作者验证了Qwen3.6 27B模型权重从BF16转换为FP16不会导致数值溢出，并指出FP16尾数精度更高，解释了量化版本为何使用FP16而非保持BF16。