@_anishlk:我们扩展了 @cognition 的 SWE-2 奖励函数,使其能够主动引导帕累托前沿,而不仅仅是提升它。

X AI KOLs Timeline 论文

摘要

作者扩展了 Cognition 的 SWE-2 奖励函数,通过调节 λₑ(即帕累托前沿在该努力水平处的导数)来主动引导帕累托前沿,而不仅仅是优化它,从而针对期望的分数/成本改进平衡进行目标化。

我们扩展了 @cognition 的 SWE-2 奖励函数,使其能够主动引导帕累托前沿,而不仅仅是提升它。 SWE-2 使用 S − λₑC,其中 λₑ 恰好是帕累托前沿在该努力水平处的导数。 我们证明了,通过自适应调整 λₑ,可以针对期望的分数/成本改进平衡进行精确调控。详见下文!https://t.co/4jg2wMhdK7
查看原文
查看缓存全文

缓存时间: 2026/10/03 19:02

我们扩展了 @cognition 的 SWE-2 奖励函数,使其能够引导帕累托前沿,而不仅仅是提升前沿。

SWE-2 使用 S − λₑC,其中 λₑ 恰好就是该努力水平下前沿的导数。

我们展示了如何通过调整 λₑ 来针对期望的评分/成本提升权衡。详见下文! https://t.co/4jg2wMhdK7

相似文章

超越二元可验证奖励:面向软件工程智能体的行为自奖励

arXiv cs.AI

论文提出了行为自奖励(BSR),一种奖励精炼方法,利用策略自身对同一任务轨迹的调试行为进行两两比较,并生成辅助奖励,超越二元可验证奖励的局限。该方法基于 Qwen3-14B/32B,在 SWE-bench Verified 和 SWE-bench-Live 上均取得了一致提升。

奖励模型的可引导文化偏好优化

arXiv cs.CL

介绍了SCPO,一种新颖的奖励模型训练算法,它以平衡的方式整合了多样化的文化偏好,在基线之上取得了高达7个百分点的改进和280%的数据效率提升。

压缩在先,内容决定:奖励模型中的涌现性错位

arXiv cs.AI

该论文研究了奖励模型中的涌现性错位(Emergent Misalignment),发现对 Skywork-Reward-V2 奖励模型进行窄域有害微调会泛化到七个未见领域,并通过几何压缩与内容特异性旋转两种机制解释了偏好反转的实现方式,表明奖励模型比语言模型更易受此影响。

Cognition的SWE-2

Product Hunt

Cognition的SWE-2是一种基于Kimi K3进行后训练的新型编码模型,采用强化学习,在FrontierCode 1.1 Main上达到50.0%的性能,相比Fable 5.1节省64%的成本,同时与GPT-6 Astra具有竞争力。它现在可在Devin Desktop和CLI中使用。