标签
本文介绍了Hybrid Search,一种通过利用ASR-LLM和基础LLM之间的隐藏状态交互来增强大型音频语言模型中自动语音识别的方法,用于针对性token纠正,其性能超越了全局LLM纠正策略。
在用于结构化数据提取的大语言模型流水线中添加自我纠正循环,导致一致性从85%下降到62%,原因在于复合噪声和再生漂移。文章探讨了潜在的解决方案,如细粒度差异机制或确定性门控。
本文实证研究了使用不确定性估计方法进行代码生成中的自我纠正,发现基于不确定性的方法未能提高Pass@1准确率,而基于验证的方法则取得了显著增益。
This paper introduces DARC, a diagnosis-guided recovery harness that makes agent self-correction selective by profiling failure modes and pruning mismatched interventions before test-time correction, improving performance on ALFWorld, AppWorld, and XBRL Finance.
本文介绍了SFS-DPO,一种用于LLM中步骤级自我验证和自我纠正的强化学习两阶段框架,并提出了教师辅助变体SFS-DPO-R。实验表明,在多个LLM上,该方法以更少的训练数据相比先前方法在自我纠正有效性上取得了改进。
微软研究人员发表了一项里程碑式研究,介绍了 LoopsBench,一个用于评估自纠正编码智能体循环的框架,并概述了从 Harness Engineering 到 Loop Engineering 的转变,以实现可靠的自主开发。
一种新的无验证器广度-深度精炼框架通过采样多个推理轨迹、利用自我批评迭代地精炼每条轨迹,并通过多数投票进行聚合,从而在测试时提升LLM推理能力。在多个数学基准和开放权重模型上,该方法持续优于贪心解码、多数投票和基于验证器的选择。
分享了一个基于LLM自我纠正研究的提示词方法论,强调无外部反馈时模型自查效果有限,推荐对抗式审查等逐步增强的提示策略。
本文表明,大语言模型表面上的自我纠正增益往往源于格式修复,而非推理能力的提升。在多种模型规模下,格式效应主导内容效应,且在能力较强的模型上内容边际接近零,这表明该领域将少数实测的自我纠正误归因于实际的内容改进。
阿里巴巴的Qwen智能体在一个空仓库中自主编码超过10天,提交issue、编写代码、运行测试、修复失败并合并。它仍然需要一些反馈,但这展示了一个自我纠错的自主循环。
This paper introduces the Human–LLM Reflection Framework (HRF) to compare human and LLM revision behavior, finding that LLM reflection often yields zero or negative information gain and behaves more like conditioned re-generation than genuine error-driven revision.
介绍了AMTFV,一个通过数学工具流接口将数学验证建模与执行解耦的智能体框架,在五个具有挑战性的数学数据集上改进了LLM的答案验证与修订。
ViSAGE是一个用于长视频理解的多模态智能体记忆框架,通过跨模态绑定、双向记忆精炼和多智能体交叉验证来构建自我纠正、以实体为中心的记忆,相比基线实现了5.9%的准确率提升。
一位用户尝试了 Qwen AgentWorld,发现了一个系统提示,可以在推理轨迹中实现自我纠正,经典洗车测试就是例证。
两个AI编码智能体构建马里奥游戏的对比:Poolside agent中的Laguna S 2.1耗时62分钟,具备自我纠正能力并通过测试,而之前的Qwen模型耗时数小时且需要人类帮助;突出展示了oracle纪律和原生测试框架的优势。
介绍了科学可行性控制(SFC),一种共形预测框架,为大型语言模型中的科学推理有效性提供统计保证,在PhyX物理推理上达到50.1%的准确率,优于DeepSeek-R1和GPT-4,同时将科学违规减少73%。
本文提出了一种奖励驱动的大语言模型代理工作流,融合了POMDP路由与自我修正奖励模型,在ALFWorld和WebShop等基准测试中任务成功率提升了24.5%。
介绍了自校正耦合马尔可夫跳跃过程(SC-CMJP)及一种无需训练的采样器CO2Jump,用于并行图像理解与生成,在编辑、迷宫和nonogram任务上实现了最先进的联合性能。
本文探讨了使用基于GRPO再训练的紧凑型小型语言模型(Qwen2.5-1.5B),并结合验证器引导的校正循环,用于自主工业控制。该框架实现了高对齐精度和低延迟,展示了在边缘部署的实际可行性。
本文介绍了SPARC,一种谱代数理论,用于解释自回归语言模型中的自我修正盲点,即模型无法纠正自身错误,却能修复相同的外部错误。该理论证明,当误差传播算子的谱半径不小于1时盲点出现,推导出修正标记的激活阈值,并为基于强化学习的自我修正训练提供了收敛保证。