greedy-decoding

Tag

Cards List
#greedy-decoding

Ultra low temps make your model stupid at coding (a warning for beginners)

Reddit r/LocalLLaMA ↗ · 18h ago

实验数据显示,超低温度(如 t=0 或 t=0.2)会显著降低本地模型的编码能力:LiveCodeBench v6 上准确率从温度 1.0 的 82.7% 降至温度 0 的 70.0%,且低温下循环重复错误率大幅上升。作者建议本地部署用户避免使用贪婪解码进行编码任务。

0 favorites 0 likes
← Back to home

Submit Feedback