credit-assignment

标签

Cards List
#credit-assignment

从视觉亲和性到多模态强化学习中的学习贡献归因

arXiv cs.AI ↗ · 2026-10-26

本文提出 Outcome-Conditioned Visual Credit (OVC) 框架,通过分离视觉关联测量与 token 级信用分配,改进多模态强化学习中的奖励分配,在三个模型的六项基准上较 GSPO 提升 1.86-2.39 个百分点。

0 人收藏 0 人点赞
#credit-assignment

DTCA:扩散语言模型强化学习中的去噪词元信用分配

Hugging Face Daily Papers ↗ · 2026-10-26 缓存

DTCA 提出了一种用于扩散语言模型强化学习的词元级信用分配框架,通过置信度提升和熵校准来衡量词元的贡献。在 LLaDA-8B-Instruct 上的实验表明,该框架在数学推理任务中,使 MATH500 和 GSM8K 上的得分分别最高提升了 9.0 分和 5.3 分。

0 人收藏 0 人点赞
#credit-assignment

面向长时程 LLM 智能体的多尺度策略优化

Hugging Face Daily Papers ↗ · 2026-10-26 缓存

本文提出 Multiscale Policy Optimization(MPO),通过在轮次尺度上对齐信用分配与策略更新(结合多尺度优势估计 MAE 和轮次级重要性采样)来改进长时程 LLM 智能体的训练,在搜索、工具使用和自动化任务上对 4B 和 30B-A3B 模型均取得一致增益。

0 人收藏 0 人点赞
#credit-assignment

S3AC:用于大语言模型推理的稳定化、选择性且可扩展的演员-评论家方法

Hugging Face Daily Papers ↗ · 2026-10-26 缓存

S3AC 提出一种稳定的 Actor-Critic 训练方法与难度感知提示采样(DAPS),在不依赖分组 rollout 的情况下改进大模型的长链推理,性能优于 GRPO-X 等现代基线,并可在 35B 模型上维持单 rollout 训练。

0 人收藏 0 人点赞
#credit-assignment

ReAPO:面向大语言模型推理中高效探索的重试感知策略优化

arXiv cs.LG ↗ · 2026-10-22 缓存

ReAPO 提出一种基于随机最短路径视角的重试感知策略优化方法,对 GRPO 进行改进,将额外生成分配给失败轨迹以实现更有原则的信用分配,在 Qwen3 和 OLMo-2 系列模型的数学与科学推理基准上显著提升首次尝试性能并减少生成 token 数。

0 人收藏 0 人点赞
#credit-assignment

该改变哪个智能体的技能?面向多智能体团队演化的群体相对信用分配

arXiv cs.CL ↗ · 2026-10-21 缓存

本文提出了GRSE(群体相对技能演化),这是一种受GRPO启发的方法,通过对比重复执行过程,为协作式LLM团队中的智能体-技能对分配行为信用,从而在HotpotQA和LoCoMo数据集上改进了技能演化效果,优于以往方法。

0 人收藏 0 人点赞
#credit-assignment

Self-Credit:通过组内重缩放实现长程智能体强化学习的信用分配

Hugging Face Daily Papers ↗ · 2026-10-20 缓存

本文提出 Self-Credit,一种智能体强化学习方法,通过自生成的信用分配和组内重缩放来稠密化稀疏的 RLVR 奖励,在 BrowseComp-Plus、GAIA 和 xBench-DeepSearch 基准上使用 Qwen3 模型取得了显著提升。

0 人收藏 0 人点赞
#credit-assignment

蒸馏至分歧:面向智能体强化学习的错误截断式事后蒸馏

arXiv cs.AI ↗ · 2026-10-19 缓存

提出 ETRO(Error-Truncated Hindsight Distillation),根据轨迹结果与错误边界路由正/负两类 hindsight 技能以实现细粒度 credit 分配,并让 post-error 后缀仅由 GRPO 优化,从而避免技能条件化监督与当前状态不匹配的问题。

0 人收藏 0 人点赞
#credit-assignment

应该改变哪个智能体的技能?面向多智能体团队演化的群体相对信用分配

Hugging Face Daily Papers ↗ · 2026-10-19 缓存

论文提出 GRSE(群体相对技能演化),通过重复执行并对比同一技能库下的多次运行,将共享团队奖励正确归因到具体的 agent-技能对上,从而改进协作式语言智能体的技能演化,在 HotpotQA 与 LoCoMo 上超越 MASkills 并能从有害技能中恢复。

0 人收藏 0 人点赞
#credit-assignment

OpCredit:面向智能体知识图谱问答的操作感知策略学习

arXiv cs.CL ↗ · 2026-10-16 缓存

该论文提出了 OpCredit,一种面向智能体知识图谱问答的操作感知策略学习框架。该框架结合分支结果信用分配与前沿转移信用分配,将信用分配给单个操作而非整条轨迹,并在 ComplexWebQuestions、WebQSP 和 GrailQA 上均取得了稳定提升。

0 人收藏 0 人点赞
#credit-assignment

面向长时程智能体强化学习的树感知后验蒸馏

Hugging Face Daily Papers ↗ · 2026-10-16 缓存

TreeOPSD 提出了一种无批评者的树感知后验自蒸馏框架,用于长时程智能体强化学习。该方法将终局奖励递归回传为隐式回合级信用,并生成有界的封闭式教师分布,在多个竞争性基准上显著优于 GRPO。

0 人收藏 0 人点赞
#credit-assignment

ForkGRPO:面向扩散语言模型的高效探索与细粒度信用分配

arXiv cs.CL ↗ · 2026-10-15 缓存

该论文提出 ForkGRPO,一个面向扩散大语言模型的强化学习框架,通过在高熵中间状态采样多个延续并进行段级信用分配,提升了探索效率与推理性能,相比 JustGRPO 最高提升 1.2 个百分点且减少 27.8% 的生成 token。

0 人收藏 0 人点赞
#credit-assignment

模块化金融强化学习中信用分配的等信息量评估

arXiv cs.AI ↗ · 2026-10-15 缓存

本文提出了一种用于评估模块化金融强化学习中信用分配的等信息评估框架,包含等信息重建控制、固定效用比较和预设下游保护措施,并通过三项受控研究揭示了冗余归因信号、表示诱导的预测权衡以及组件监督与下游风险结果的错配等三种评估失效模式。

0 人收藏 0 人点赞
#credit-assignment

PEARL:面向多轮智能体的过程经验感知强化学习

arXiv cs.AI ↗ · 2026-10-15 缓存

PEARL提出了一种面向多轮智能体的强化学习方法,通过分支轨迹的首次分歧点构建局部决策特征,并利用成功/失败记忆聚类识别重复模式,从而在不引入额外价值评估器的情况下改进信用分配。在AppWorld和ALFWorld基准上,PEARL在4B和8B规模模型上均超越了ARPO等基线,ALFWorld 4B达到97.9%成功率。

0 人收藏 0 人点赞
#credit-assignment

基于动作特定信用分配的执行后学习

arXiv cs.AI ↗ · 2026-10-15 缓存

论文提出“执行后学习”(Learning after Execution)框架,将程序执行结果作为中间状态,支持额外的纠正学习动作,并为初始动作与纠正动作分配不同的信用,在图像转TikZ任务上将渲染成功率提升至92.70%。

0 人收藏 0 人点赞
#credit-assignment

上下文信用策略优化

arXiv cs.LG ↗ · 2026-10-15 缓存

本文提出上下文信用策略优化(CCPO),一种无需价值评估器的步骤级信用分配方法,通过上下文相似度加权的同伴比较与未来进度信号,为大语言模型智能体在长程任务中的强化学习提供更精细的优势估计,在 ALFWorld 和 WebShop 上显著优于组相对策略优化(GRPO)。

0 人收藏 0 人点赞
#credit-assignment

WorkRover:通过递归环境演化扩展长时程协作智能体训练

Hugging Face Daily Papers ↗ · 2026-10-13 缓存

WorkRover 是一个通过递归环境演化训练长时程协作智能体的框架,引入了因子兼容性回放(Factorial Compatibility Replay)和验证器到轮次的信用分配(Verifier-to-Turn Credit Assignment)以改进训练信号。对 Qwen3.5-35B-A3B 进行后训练得到 WorkRover-35B-A3B,在 JobBench、OfficeQAPro 和 GDPvalv2 基准测试上均取得了显著提升。

0 人收藏 0 人点赞
#credit-assignment

SOAR:面向搜索智能体的来源感知强化学习与精准信用分配

arXiv cs.CL ↗ · 2026-10-12 缓存

提出SOAR(Source-Aware Reinforcement Learning),通过将外部证据与内部知识解耦为可观测的并行流并引入Source-Consistent Reward,实现搜索代理的精确信用分配;在3B和7B模型上分别提升7.3%和5.4%,并将证据伪造率降低74.8%。

0 人收藏 0 人点赞
#credit-assignment

TreeHCA:面向多轮大语言模型智能体的后见之明引导探索与信用分配

arXiv cs.LG ↗ · 2026-10-12 缓存

TreeHCA 提出将后见比率引导的探索与后见信用分配耦合,通过参考答案似然变化重建中间历史并生成替代续写,形成推理与工具交互树,并用归一化树回传将终局结果传播为回合级优势,在七个问答基准和三个 Qwen 主干上超越所有基线。

0 人收藏 0 人点赞
#credit-assignment

TPPO:面向语言模型推理的追踪值 PPO

Hugging Face Daily Papers ↗ · 2026-10-12 缓存

该论文提出 Tracking-Value PPO(TPPO),通过在对数几率空间对前缀值进行贝叶斯分解,构建累积值参数化以更好地跟踪语言模型推理中的值演化。TPPO 在 Qwen3-4B-Base 和 Qwen3-8B-Base 上分别比 PPO 提升 7.0 和 8.4 个数学推理分数点,并改善了分布外泛化能力。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈