标签
本文提出UASPL，一种将预测可靠性融入自步学习样本选择的方法，使用证据神经网络，提升了分类性能和可解释性。
本文提出AUF（接受直到失败），这是一种针对推测解码中掩码块草稿模型的交叉熵损失的简单修改，它将监督限制到第一个预测失败之前的词缀，在不改变推理的情况下提升了多个基准测试的平均生成长度。
引入平滑最大均值差异（SMMD），一种损失函数，通过核匹配和基于图的平滑性将预测数值分布与目标对齐，提高了LLM在多个任务中的数值预测准确性。
本文提出了一种基于混淆矩阵的图构建方法和一种用于图神经网络的混合损失函数，以提高多站点污染预测的准确性和可解释性，并在真实世界空气污染数据上进行了评估。
这篇博客文章通过逐步的数值示例和直观理解，解释了梯度下降（训练机器学习模型所使用的基本优化算法）背后的数学原理。
本文提出数字熵损失（DEL），一种用于大型语言模型数值学习的新型损失函数。它重新定义了熵优化，以提高数字级预测精度并处理浮点数，在数学推理基准上持续优于现有方法。
本文介绍了D-PACE，一种用于训练推测解码草稿模型的动态位置感知交叉熵损失，该损失函数自适应地加权位置以提升接受长度和推理速度，在各基准测试中实现一致的加速比，且开销极低。