标签
提出了一种用于训练输入凸神经网络(ICNN)的“提升”方法,该方法使用无约束的超网络生成非负的层间权重,从而软化损失景观并避免梯度衰减,相比投影梯度下降和softplus重参数化,实现了更低的测试损失。
本文分析了11个主流大型语言模型的置信度校准情况,发现它们普遍过于自信,尤其在困难任务上,而在简单任务上则信心不足。文章引入了LifeEval,这是一个用于评估不同难度级别下校准效果的测试。
SurvivalPFN 是一种先验数据拟合网络,通过上下文学习摊销生存分析的贝叶斯推断,在 61 个数据集上实现了强大的预测性能,无需特定任务训练或超参数调优。
本文介绍了DiMS,一种动态系统采样器,能保证从神经网络最小损失解的子流形中精确采样,从而在贝叶斯推断中实现更好的不确定性量化。
BaLoRA 引入了低秩适应(LoRA)的贝叶斯扩展,通过缩小与全量微调之间的差距,提供校准良好的不确定性估计并提高预测准确性。
DyStruct 是一种无需训练的贝叶斯解码框架,专为离散扩散语言模型设计。它通过动态确定扩展规模和解码顺序来实现灵活长度生成,从而提高了数学和代码任务的准确性。
本文提出了一种利用商用微波链路和扩散模型先验进行雨场重建的贝叶斯反问题框架,展示了其相对于现有基准方法的准确性提升。