标签
本文识别出一种名为“同策略审计崩塌”的失效模式:在改进后策略产生的数据上,依据完整结果标签更新组件验证器,会导致审计系统性地偏好更差的验证器。作者推导了精确的反转阈值,并提出通过在更新分布中保留对验证器自身失效样本的支持来修复审计。
NVIDIA 提出弹性潜在循环(Elastic Latent Recurrence,ELR)训练方案,使循环语言模型在单次循环时达到与同规模非循环模型相当的精度,同时每次额外循环都能以更多推理计算换取精度提升,最终产出可在 1–4 次循环间灵活调整的单一检查点 Koi-4B。
该论文研究了推理模型在不同思考预算下是否表现出更少的认知偏误,结果发现增加推理token并不会降低偏误,部分偏误甚至与人类方向相反,表明测试时推理不能保证决策理性。
该论文提出 InfiLoop,一种为循环 Transformer 设计的原生残差连接机制,通过内容加权与学习式时间衰减维持循环状态的运行摘要,使模型在数万次测试时迭代中持续提升推理性能,在 Sudoku-Extreme 上达到 97.9% 精度、ARC-AGI-2 上 13.6% pass@2。
来自 Meta Superintelligence Labs 的一篇论文表明,配备轻量推理框架的预训练大语言模型能够充当有能力的智能体,在给予足够的测试时采样预算时,甚至能超越经过强化学习后训练的同类模型。
本工作坊论文考察了当累计 token 上限落在数学推导过程之中时,对测试时控制器产生的影响,并基于 19,200 条归档轨迹,对比了严格模式(到达上限即停止)与建议模式(完成当前尝试)两种停止策略。研究发现,预算曲线必须同时报告上限、实际开销、候选样本覆盖率以及选择器信息,因为仅凭候选覆盖率和名义预算可能会产生误导。
论文提出了 TAPS(轨迹自适应进展–波动调度器),通过将终端损失敏感度分解为持续进展与中心化波动两部分,自适应调整循环 Transformer 中循环更新的步长,在无需重新训练的情况下提升准确率,并在训练阶段应用时可带来最高 1.56 倍的实测耗时加速。
论文表明,AI代理之间的测试时通信能够在像ARC-AGI-3这样的挑战性任务上显著优于独立并行尝试,在面向研究的领域取得最先进的成果。
作者分享了Jev在构建AI代理框架自定义验证器的新用例,通过结合System One和System Two模型实现可扩展的测试时计算。
OpenAI 研究员 Noam Brown 探讨了多智能体系统如何通过并行化扩展测试时计算,重点介绍了一个涉及一万个智能体的实验,并强调基础通用模型在推动人工智能进步中的关键作用。
State of Thought (SoT) 为LLMs提出内生推理,通过提取内部动态几何状态来选择性激活历史支持,提高各种推理任务的准确性和效率。
本文引入Elo每令牌分析来研究LLM智能体如何分配测试时计算资源,揭示智能体最初优于独立采样但随时间减速,并行会话提供性能提升。
OpenAI研究员Noam Brown预测,由于测试时计算扩展的进步,一年内人人都能使用的AI将具备解决千禧年大奖难题的能力。
本文提出了一个基于LLMs的对话生成工件修订传播基准,并评估了成本效益测试时计算方法,表明并行采样与选择相结合可提高准确性。
本文介绍了一种针对编程竞赛金牌表现的语言模型后训练专用化流程,通过监督微调和强化学习等技术,在IOI基准测试中取得高分。
本文提出CASE,一种动态选择组合器,使用可解码性准则来预测在大型语言模型中隐藏状态选择何时优于多数投票,从而提高在困难问题上的可靠性。
这篇文章总结了八种基于Google、OpenAI和Anthropic研究的推理时技术,用于改进大语言模型推理,包括权衡和实用注意事项。
论文 'Thought-Level Beam Search for Reasoning' 介绍了 Gambit,这是一种在生成过程中主动重新分配测试时计算资源的方法,通过剪枝低分推理路径并从强前缀分支,并且已被 COLM 2026 接收。
本文介绍了一种考试式评估方法,用于研究推理模型如何在多个问题之间分配共享的测试时计算预算。研究发现,模型无法战略性地分配计算资源,而是按照问题的呈现顺序进行优先级排序,忽略了问题的价值或难度。
观察到与xhigh相比,Claude Opus 5的max thinking在大约20-30%的基准测试中导致性能下降,这与增加测试时计算量可提升性能的预期相反。