标签
本文提出了一种受控的评估框架,在 MATH-500 上将 LLM 生成的调优框架的答案覆盖面与可重复的任务专业化程度分离开来,发现额外的覆盖面主要来自同一程序的重复执行,而非真正的专业化提升。
Aiki Alpha 3 发布,带来显著的性能改进,包括更低成本的运行时实现、自适应数表示、增强的性能分析和覆盖率,以及更严格的库约束。
本文研究了长文幻觉强化学习中基础支撑与覆盖范围之间的权衡,提出了基于评分标准的奖励来表示问题所需和可选的信息。对基础支撑、评分标准覆盖和相关性进行软性组合,可以在支持性和丰富性之间取得最佳平衡。
This paper proposes a formal framework for agent memory, defining memory as a basis, knowledge as its span, and optimality as capacity-constrained expected coverage, while framing continual memory as a sequential MDP and demonstrating the framework on Homer's Odyssey.
介绍了CAPEval,一个将覆盖率和精确度解耦的图像描述评估框架,表明覆盖率能更好地预测视觉-语言理解性能,而精确度则能更好地预测文本到图像生成性能。
本文识别了推理模型测试时缩放中的“模态上限”和“相关上限”,表明在数十个样本之后,额外采样不会提高选择准确性,甚至可能有害,突显了生成正确回答与识别正确回答之间的可识别性差距。
本文指出了无参考忠实性指标中的一个盲点:它们只衡量精确性(即声明是否得到支持),而不衡量召回率(即相关事实的覆盖程度)。作者引入了一种使用Formula 1遥测数据和天气数据的完整Oracle评估,表明高精确度模型往往覆盖不佳,并提出了一个组合指标。