标签
HarnessRL 提出一个与策略共同进化的训练框架,通过自适应任务采样、rollout 引导和 rubric 标准更新来解决开放式强化学习中的奖励失效问题,并发布了五领域评测集 Rubric-Mix-10k,在 4B 和 9B 模型规模上均优于最强基线。
MatrixReward 提出通过构建「按生成结果×评分标准」的胜率矩阵来为开放式生成任务构建奖励,并利用列展开度与相关性统计量推导出依赖于数据的评分标准权重与理想分布。该方法在四个基准测试上使用 Qwen3-8B 进行评测,平均得分达 63.02,比最强基线高出约 2%。
本文研究了推断时干预和权重巩固对开放生成式人工智能的影响,发现训练于价值过滤后的候选项可以提升平均质量,但并未超越经典启发式性能。
本文提出了一个以人类为基础的框架,用于衡量开放任务中LLM生成内容的分布广度(文化覆盖面),引入了LLM覆盖率(LLM Coverage)和边界内比率(In-Boundary Rate)两个指标。实验表明,当前的LLM生成的内容合理但狭窄,集中在人类回答空间的中心附近。
本文介绍了评分标准作为特权信息(RuPI),通过以评分标准作为软特权信息来条件化教师模型,将同策略自蒸馏扩展到开放式生成。该方法在多个大语言模型和HealthBench等基准上优于评分标准即奖励的强化学习和参考补全蒸馏。
CalibratedRubric是一个任务自适应框架,用于为开放式LLM评估构建紧凑且可测量的评分标准库,通过贝叶斯可测量性过滤和基于IRT的选择,在金融、医疗、通用和法律基准上提升人类-金标准一致性和排序保真度。
EarlyDx is a new large-scale benchmark for evaluating LLMs on open-ended, evidence-supported diagnosis generation at emergency department admission, built from 154,834 MIMIC-IV encounters. It reveals that even frontier and medical-specialized models struggle to synthesize admission-time evidence, with post-training only partially improving inference-dependent recall.
SERPO 提出了一种自演化评分策略优化框架,用于开放式生成中的测试时强化学习,用闭环替代答案投票,该闭环协同进化响应证据、查询特定评分标准和策略参数,在健康和研究基准上取得了显著改进。
本文介绍了一个用于评估开放式生成中事实完整性的两级元准则框架,具体化为GAMUT基准。该基准包含跨越10个领域的1,813个问题,并发现该基准具有挑战性和区分性,最优模型得分为58.7%。
本文提出了一个用于大型语言模型测试时多样化生成的统一框架,根据多样性注入的位置(表面级 vs. 规范级)对方法进行分类。它提出了规范级方法,首先生成多样化的中间规范,然后基于这些规范生成最终响应。在五个开放任务和四个骨干模型上,规范级注入在保持质量的同时提升了输出多样性。
本文介绍了 G-Zero,这是一个无需验证器的框架,通过基于内在奖励和提示引导的协同进化训练,实现大型语言模型的自主自我改进。旨在通过从内部分布动态中推导监督信号,克服代理 LLM 评判者在无界任务中的局限性。