我在自己的多智能体编码设置上进行了13次对照实验。角色设定毫无作用;一个协调技巧几乎解决了所有问题。
摘要
一位AI研究人员在多智能体编码系统上进行了13次对照实验,发现依赖排序的协调显著提高了成功率,而角色背景故事没有带来可衡量的益处。
大多数多智能体代码库只是一堆角色设定,没有可证伪的主张。我想要数据,所以我用真实的预言机(一个TypeScript编译器和预注册的答案密钥)对自己的系统进行了约540次评分代理运行测试。经得起检验的有:* **依赖排序协调(“变更依赖图”)。** 先完成上游变更,然后将*真实*名称交给下游代理,而不是让它猜测。在4种合约变更类型中:朴素并行3/12,CDG排序12/12(编译器评分)。* 关键点在于:朴素并行在**Opus上通过了6/6**,但在**Sonnet上只通过了0/6**,任务相同。更强的模型只是猜对了相同的名称,从而隐藏了错误。协调带来了不变性。* 它还可以推广到代码之外(写作/咨询/游戏设计):9/9对比3/9。经不住检验的是(有趣的部分):* **角色背景故事:** 在5个角色中进行了安慰剂对照,没有可衡量的益处。一个无关的背景故事效果也一样好。关键在于*检查清单*,而不是身份。* **确定性测试门存在覆盖天花板。** 未测试路径中的逻辑错误可以顺利通过,即使代理自信地报告“所有测试通过”。* **3个顾问发现了所有15个植入的问题。** 第4到第10个顾问没有增加任何独特的内容。我特意发布了这些有损我自己设计的结果,包括两次实验设置崩溃并意外重新确认了某个发现的情况。欢迎在评论中询问方法论问题或质疑设计。
相似文章
[后续] 单智能体还是多智能体?我用上个帖子中的 4 种配置运行了同一个构建任务
作者让四种智能体配置执行了相同的 Python 构建任务——Claude Code 单智能体、Codex CLI 单智能体、Paseo 主导者/工作者团队,以及 Atomic Agent Fusion 模式——并比较了速度、隐藏测试结果和 API 成本。单智能体速度快,且全部通过测试;而编排的主要优势在于通过本地工作模型降低成本,而非提升速度。
我一直在尝试自定义智能体,有趣的部分并非任务完成,而是它们拥有记忆后发生的变化
作者反思了实验自定义 AI 智能体的经历,指出长期记忆和连续性将智能体从简单的任务执行者转变为具有“稳定倾向”的持久协作伙伴。这引发了关于智能体“个性”的价值与工作流程中控制、可靠性和可审计性需求之间的矛盾的问题。
我经营一家拥有89个AI代理、横跨22个部门的公司。以下是我在多代理协调方面的经验总结。
一位CEO分享了经营一家拥有89个AI代理、横跨22个部门的公司的实用经验,强调了委托是瓶颈、代理记忆的价值、部门结构的必要性以及人类领导力的持续重要性。
为运行在多台机器上的编码代理(Claude Code、Codex、Pi、Kimi)构建控制平面的经验总结
作者分享为运行在多台机器上的多个编码代理(Claude Code、Codex、Pi、Kimi)构建控制平面的经验教训:控制平面只排队不执行、审批必须由人类完成、区分心跳与轮询、事件溯源作为唯一事实来源,并将代理视为有角色和技能的命名队友。
我让几个 AI 编码智能体共享同一个仓库。在每次隔离运行中,它们都破坏了彼此的工作,而当我放开权限后,它们竟然开始互相发消息了
这是一份关于一项开源实验的实地报告,测试多个 AI 编码智能体如何共享一个代码库:在隔离分支中,每次运行都会产生语义冲突但文本上可合并的工作;而共享工作目录加上一个轻量级“决策模型”裁判(Jev)改善了协调;无监督的智能体间消息通信也自发出现了。