我们构建了一个54个代理的生态系统，其中一些代理是持久的虚构角色——最困难的部分一直是控制他们被允许学习的内容

我一直在为一个名为Trading Hearts的项目构建代理系统，其中一个更有趣的问题是，我们的“角色”不仅仅是生成的人格。它们是具有身份、记忆、关系、语音、历史以及被允许知道什么的规则的持久代理。系统目前大约有54个代理，但它们并非都是同一种类。一些是角色代理。其他是用于故事、历史、市场、关系、语音、生产、QA和治理等事项的专家代理。然后有一个编排层，决定哪些代理被允许参与任务。基本思路更像是这样：现实世界信号 → 编排器 → 专家代理 → 角色代理 → 验证器 → 输出 → 学习循环。例如，一个市场事件可能会在两个角色之间产生压力。系统不会简单地询问一个LLM：相反，它可以提取：角色的持久身份、它们现有的关系、从前场景中未解决的冲突、当前市场压力、每个角色知道什么、每个角色被不允许知道什么、它们各自的语音和行为规则。然后一个故事代理构建场景，角色代理从它们自己的视角做出反应，其他代理在任何内容被接受之前检查连续性、正典、语音和质量。我最感兴趣的部分是学习循环。我们故意不允许代理仅仅因为发生了什么就重写自己。学习有状态：观察 → 候选教训 → 批准教训。代理可以注意到一个模式。它可以提出系统已经学到了什么。但它不能自动修改核心身份、关系或正典记忆。这需要一个单独的权威/门禁。否则，我们发现“学习代理”很快就会变成自我腐蚀的代理。我们还学到了一些其他事情：编排和执行需要分开。与人类交谈的代理不应该自动成为执行每个专家任务的代理。记忆和正典是不同的东西。代理观察到的东西不一定是成为永久真理的东西。角色关系是出乎意料的有用状态。关系图比简单地存储之前的对话为代理提供了更多的连续性。验证器几乎和生成器一样重要。我们现在有代理/进程，它们唯一的工作是说：“不，这个输出违反了角色、历史、来源或系统规则。”也许最大的教训是：更多的自主性并不总是更好。我们越来越倾向于代理拥有非常狭窄的权限，由系统决定它们的输出何时可以影响共享状态。我很好奇其他构建多代理系统的人如何处理这个问题：如何让代理随着时间的推移真正学习，而不同时赋予它悄悄重写自己的身份、规则或共享记忆的能力？学习与自我修改之间的边界一直是我们架构中最困难的部分之一。