reward-shaping

标签

Cards List
#reward-shaping

Tev:通过密集进度奖励扩展长周期智能体环境

Hugging Face Daily Papers ↗ · 5天前 缓存

本文提出Tev-Gym——首个具有可验证、密集渐进奖励的长周期智能体训练数据集(涵盖7个领域、1,170个任务),并基于进度-势能奖励塑形(PPRS)训练出Tev-27B,在Agents' Last Exam的计算与数学科学领域达到与GPT-6 Astra和Claude Opus 5相当的Pass@5表现,并可泛化至Terminal-Bench 3.0/4.0。

0 人收藏 0 人点赞
#reward-shaping

基于可验证奖励的强化学习用于小型搜索智能体

arXiv cs.AI ↗ · 2026-09-25 缓存

本文将基于可验证奖励的强化学习应用于采用检索增强生成的小型语言模型,实现了无需蒸馏的3.8倍性能提升,并强调了针对小型模型进行奖励设计的重要性。

0 人收藏 0 人点赞
#reward-shaping

IncentRL:偏好引导与任务性能的权衡

arXiv cs.LG ↗ · 2026-09-21 缓存

IncentRL 提出一个框架,用于强化学习中基于偏好的奖励塑形,该框架使用KL散度惩罚来平衡偏好引导与任务性能,并通过理论分析和在MiniGrid基准上的实验得到支持。

0 人收藏 0 人点赞
#reward-shaping

When2Think:面向高效混合推理模型的难度感知长度控制学习

Hugging Face Daily Papers ↗ · 2026-09-17 缓存

When2Think 是一个后训练框架,能根据问题难度在大型推理模型中动态分配计算资源,从而在数学基准测试中优化准确性与效率的权衡。

0 人收藏 0 人点赞
#reward-shaping

虚假工具使用:当 RL 智能体学习错误的行动原因时

arXiv cs.CL ↗ · 2026-09-16 缓存

本文研究了强化学习如何导致 LLM 智能体学习基于表面线索而非任务需求的虚假工具使用策略,并引入了一种密集奖励方法来缓解这一问题。

0 人收藏 0 人点赞
#reward-shaping

Cliff:从首个错误中学习过程奖励

Hugging Face Daily Papers ↗ · 2026-09-02 缓存

Cliff 通过使用现成的大型语言模型(LLM)检测首个推理错误并塑造 token 级别的优势,从而改进具有可验证奖励的强化学习,相比现有方法带来持续的性能提升。

0 人收藏 0 人点赞
#reward-shaping

AWM:用于长文档VQA代理的可回答工作记忆

arXiv cs.CL ↗ · 2026-08-27 缓存

本文介绍了可回答工作记忆(AWM)和AWM-GRPO,以增强长文档VQA代理中终端工作记忆的质量,提高准确性并减少记忆问题。

0 人收藏 0 人点赞
#reward-shaping

Calibrating Artificial Guilt: Neurally Grounded Reward Shaping for Prosocial Multi-Agent Reinforcement Learning

arXiv cs.AI ↗ · 2026-08-06 缓存

The paper proposes calibrating an artificial guilt reward signal from human neural and behavioral fMRI data, then embeds it in multi-agent PPO agents. The neurally calibrated agents match human social decision rates far better than hand-tuned or selfish baselines.

0 人收藏 0 人点赞
#reward-shaping

反应式玩法:实现了!!Atari Breakout 实验 [R]

Reddit r/MachineLearning ↗ · 2026-08-04

在 Atari Breakout 上进行了 123 次失败的 PPO 实验后,添加一个简单的接近奖励来追踪球的下落,最终实现了反应式的、非脚本化的玩法,并且能够迁移到不熟悉的砖块布局上。

0 人收藏 0 人点赞
#reward-shaping

面向人类反馈强化学习的元学习奖励塑造

arXiv cs.LG ↗ · 2026-07-30 缓存

MeRLa 是一个用于 RLHF 的元学习奖励塑造框架,通过学习任务特定的塑造函数来改善对齐,在多个基准上取得了最先进的结果,并显著降低了训练不稳定性。

0 人收藏 0 人点赞
#reward-shaping

超越静态评估:构建用于可扩展智能体强化学习的仿真环境

arXiv cs.AI ↗ · 2026-07-08 缓存

介绍AgenticAI-Supervisor,一个基于API和UI驱动的仿真环境,用于LLM智能体的可扩展强化学习,通过可验证的执行结果和奖励塑造来缓解奖励破解。

0 人收藏 0 人点赞
#reward-shaping

@svlevine: 我们可以学习一个模型,为机器人强化学习提供塑造的“过程奖励”,它会随着策略的改进而自动演变…

X AI KOLs Timeline ↗ · 2026-06-26 缓存

这项工作提出了一个模型,该模型学习塑造的“过程奖励”用于机器人强化学习,该奖励会随着策略的改进而自动演变,从而在基准测试和实际环境中提升性能。

0 人收藏 0 人点赞
#reward-shaping

基于自适应奖励塑造和策略比率重加权策略的高样本效率迁移强化学习

arXiv cs.LG ↗ · 2026-06-26 缓存

本文提出了一种用于自动驾驶高速公路车道变换的安全迁移强化学习框架,采用自适应教师干预和奖励塑造来提高样本效率和安全性。实验表明,与基线相比,安全性提升超过52%,效率提升5%。

0 人收藏 0 人点赞
#reward-shaping

ExpRL:面向LLM中期训练的探索式强化学习

Hugging Face Daily Papers ↗ · 2026-06-15 缓存

ExpRL是一种新的基于强化学习的中期训练方法,它使用人工编写的参考答案作为密集奖励支架(从未向策略展示),从而提升LLM推理能力,在AIME-2026等困难数学基准上取得了显著提升。

0 人收藏 0 人点赞
#reward-shaping

SlimSearcher:通过自适应奖励门控训练效率感知的网络代理

Hugging Face Daily Papers ↗ · 2026-06-05 缓存

SlimSearcher 是一个框架,通过结合帕累托高效轨迹过滤和自适应奖励塑形,提升深度研究代理的效率,在 GAIA、BrowseComp 和 XBenchDeepSearch 等基准测试中,将工具调用轮次减少 17%-58%,同时保持准确率。

0 人收藏 0 人点赞
#reward-shaping

当LLM奖励设计失败:稀疏结构化强化学习的诊断驱动细化

arXiv cs.LG ↗ · 2026-05-29 缓存

本文将LLM生成的奖励塑形视为稀疏结构化强化学习中的调试问题,识别出奖励泛滥和语义误解等失败模式。作者提出诊断驱动的迭代细化,与一次性生成相比,取得了显著的成功率提升(例如,DoorKey-8×8从2.3%提升至97.6%)。

0 人收藏 0 人点赞
#reward-shaping

OracleTSC:用于交通信号控制的 Oracle 信息奖励门槛与不确定性正则化

arXiv cs.AI ↗ · 2026-05-12 缓存

本文介绍了 OracleTSC,该方法利用 Oracle 信息奖励门槛和不确定性正则化来稳定大语言模型(LLMs)在交通信号控制中的强化微调。实验表明,该方法在使用 LLaMA-3-8B 模型的同时保持了可解释性,并在 LibSignal 基准测试中显著提升了交通流量指标。

0 人收藏 0 人点赞
#reward-shaping

超越 GRPO 与策略内蒸馏:语言模型后训练的经验性“稀疏至稠密”奖励原则

Hugging Face Daily Papers ↗ · 2026-05-12 缓存

本文提出了一种用于语言模型后训练的经验性“稀疏至稠密”奖励原则,主张应使用稀疏奖励配合稀缺的标注数据进行教师模型发现,并使用稠密奖励通过蒸馏进行学生模型压缩。作者证明,这种连接稀疏强化学习与策略内蒸馏的分阶段方法,在数学基准测试中优于在部署规模模型上直接运行 GRPO 的效果。

0 人收藏 0 人点赞
#reward-shaping

# 在弱反馈的代理代码修复中为 GRPO 进行信号重塑

arXiv cs.AI ↗ · 2026-05-11 缓存

本文提出了一种针对组相对策略优化(GRPO)的信号重塑方法,以改进弱反馈的代理代码修复,在编译和语义准确性方面取得了显著提升。

0 人收藏 0 人点赞
#reward-shaping

利用强化微调克服视觉连续学习中的灾难性遗忘

Hugging Face Daily Papers ↗ · 2026-05-10 缓存

本文提出保留感知策略优化(RaPO),通过强化微调缓解视觉连续学习中的灾难性遗忘。RaPO采用轨迹级奖励塑形和跨任务优势归一化,缩小了类增量学习和域增量学习中强化微调与监督微调之间的差距。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈