我在自己的多智能体编码设置上进行了13次对照实验。角色设定毫无作用;一个协调技巧几乎解决了所有问题。

Reddit r/AI_Agents 论文

摘要

一位AI研究人员在多智能体编码系统上进行了13次对照实验,发现依赖排序的协调显著提高了成功率,而角色背景故事没有带来可衡量的益处。

大多数多智能体代码库只是一堆角色设定,没有可证伪的主张。我想要数据,所以我用真实的预言机(一个TypeScript编译器和预注册的答案密钥)对自己的系统进行了约540次评分代理运行测试。经得起检验的有:* **依赖排序协调(“变更依赖图”)。** 先完成上游变更,然后将*真实*名称交给下游代理,而不是让它猜测。在4种合约变更类型中:朴素并行3/12,CDG排序12/12(编译器评分)。* 关键点在于:朴素并行在**Opus上通过了6/6**,但在**Sonnet上只通过了0/6**,任务相同。更强的模型只是猜对了相同的名称,从而隐藏了错误。协调带来了不变性。* 它还可以推广到代码之外(写作/咨询/游戏设计):9/9对比3/9。经不住检验的是(有趣的部分):* **角色背景故事:** 在5个角色中进行了安慰剂对照,没有可衡量的益处。一个无关的背景故事效果也一样好。关键在于*检查清单*,而不是身份。* **确定性测试门存在覆盖天花板。** 未测试路径中的逻辑错误可以顺利通过,即使代理自信地报告“所有测试通过”。* **3个顾问发现了所有15个植入的问题。** 第4到第10个顾问没有增加任何独特的内容。我特意发布了这些有损我自己设计的结果,包括两次实验设置崩溃并意外重新确认了某个发现的情况。欢迎在评论中询问方法论问题或质疑设计。
查看原文

相似文章

[后续] 单智能体还是多智能体?我用上个帖子中的 4 种配置运行了同一个构建任务

Reddit r/AI_Agents

作者让四种智能体配置执行了相同的 Python 构建任务——Claude Code 单智能体、Codex CLI 单智能体、Paseo 主导者/工作者团队,以及 Atomic Agent Fusion 模式——并比较了速度、隐藏测试结果和 API 成本。单智能体速度快,且全部通过测试;而编排的主要优势在于通过本地工作模型降低成本,而非提升速度。

我让几个 AI 编码智能体共享同一个仓库。在每次隔离运行中,它们都破坏了彼此的工作,而当我放开权限后,它们竟然开始互相发消息了

Reddit r/artificial

这是一份关于一项开源实验的实地报告,测试多个 AI 编码智能体如何共享一个代码库:在隔离分支中,每次运行都会产生语义冲突但文本上可合并的工作;而共享工作目录加上一个轻量级“决策模型”裁判(Jev)改善了协调;无监督的智能体间消息通信也自发出现了。