log-probability

此推文讨论了用于语言模型的OPD、OPSD、RLSD和OPD^2蒸馏技术，强调了使用对数概率差异来隔离训练后的改进。