标签
本文提出一种在多臂赌博机框架内使用对抗反馈的成本感知算法,用于识别最佳大型语言模型,并展示最优成本和相对于现有方法的改进。
本文将多模型人类评估形式化为多臂老虎机设置中的最佳臂识别问题,自适应地分配标注努力以聚焦于有竞争力的模型,并提高排名区分度。
本文研究了固定置信度下的最佳臂识别问题,其中昂贵的奖励观测与来自生成模型的廉价但相关的代理分数配对。提出了PROBE算法,该算法使用控制变量调整和残差方差的上界证书,以实现接近神谕的样本复杂度。
本文介绍了一种用于广义线性带臂中最佳臂识别的混合 Track-and-Stop 算法,该算法统一了绝对反馈和相对反馈。作者提出了一种基于似然比的置信序列以自适应分配查询,并证明了该方法在样本效率上优于基线方法。