利用Adversarial Self-Play消除编码代理的'Slop'
摘要
本文介绍了利用Adversarial Self-Play技术消除编码代理的低质量输出（'slop'），从而提高其可靠性和性能。
<p><a href="https://lobste.rs/s/k5ibd3/killing_coding_agent_slop_with">评论</a></p>
相似文章
如何避免AI代码质量下降
本期通讯文章讨论了AI生成代码速度超过人工代码审查速度所导致的“AI代码质量下降”问题，并提供了平衡速度与质量的策略。
@kentcdodds: 用工程手段消除"垃圾内容"是我做的最有趣的事情之一！我不喜欢"垃圾内容"这个说法，因为它把这描述成好像……
Kent C. Dodds 认为，防止 AI 生成的"垃圾内容"其实是一个简单的三步工程流程——高质量的 Agent PR、扎实的 PR 审查，以及配合灾难恢复流程的功能开关——他指出这些实践早在 AI Agent 出现之前就已存在。
@kentcdodds: 如果你的AI代理在生成低质量内容，不要放弃或试图通过清理来对抗代理。专注于代理所使用的基础元素…
Kent C. Dodds建议改进AI代理使用的基础元素，以减少低质量输出，而不是依赖清理，并通过一个链接的线程来说明这一点。
自我对弈帮助AI在围棋中达到超人类水平，那么为何对LLM未能如此？研究人员找到了解决方案。
研究人员引入了自导自对弈（Self-Guided Self-Play, SGS），这是一种用于LLM的自我对弈算法，通过使用指引角色（Guide）对合成问题进行评分来防止奖励作弊（reward hacking）。应用于Lean4中的定理证明时，SGS超越了强化学习基线，并使7B模型胜过671B模型。
@rohanpaul_ai: 精彩新论文来自Meta、CMU及其他实验室。表明编码代理通过制造自己的...来更快地提升。
来自Meta、CMU及其他实验室的一篇新论文提出了Self-play SWE-RL，这是一种方法，编码代理通过在实际代码库中制造和修复错误来训练自己，在SWE-bench基准测试上取得了显著提升，且不依赖人类编写的任务。