标签
本文发现语言模型中存在歧义诅咒：下一个词分布越模糊，学习难度越大，这源于架构和学习方面的原因，并通过合成数据和真实数据进行了验证。
本文提出了一种方法，将定义在不同变量集上的因子化概率分布扩展到共同的可测空间，从而能够使用分布差异度量进行有原则的比较。
NoiseLang 是一种概率编程语言，其中每个值都是一个分布。它使用 JIT 编译器编译为高效的蒙特卡洛模拟，并支持条件推断。