probability-softening

本文介绍了一个 llama.cpp 的实验性采样器，名为 'scatter'，它对按等级排序的令牌应用局部扩散，以平滑顶级候选之间的概率分布，从而在不增加尾部概率的情况下实现更具创造性的文本生成。