Stateful Swarms: 性能提升2倍,成本降低39倍
摘要
Irys 推出了 Stateful Swarms,这是一种开源范式,通过结构化黑板内存提升 AI 代理的性能并降低成本。在 Harvey AI 的法律代理基准测试中,它以每任务 1.30 美元的成本达成了 83.74% 的标准通过率,而当前最先进水平为 10.4% 通过率、每任务 50.90 美元。
Reddit 的朋友们好。我是 Devansh,来自 Irys。通过我们的工作,我们观察到代理存在两个主要问题:1. 运行成本极高。2. 难以追踪和审计(因此你无法知道它们是如何得出答案的)。我们正在开源一种名为“Stateful Swarms”的范式来解决这些问题。简单来说:Stateful Swarms 不是让 AI 代理反复重读文档并丢失信息,而是使用结构化黑板来维护持久、可审计的内存。专门的代理执行特定任务,并将结果存储到这个集中化、结构化的内存中——这意味着你只需付费读取并理解文档一次,之后就能以低成本无限查询并基于这些知识进行构建。通过引入类型和一定程度的结构化,我们能够在生产环境中维护黑板,确保它不会变得臃肿(而目前的记忆解决方案往往会出现这种情况)。以下是它的表现:
* 在 Harvey AI 的法律代理基准测试中,我们以每任务 1.30 美元的成本达到了 83.74% 的标准通过率和 17.75% 的严格全通过率。当前最先进水平是 Harvey 公布的每任务 50.90 美元、10.4% 通过率,因此蜂群既更好又更便宜。
* 我们还将应用范围扩展到法律以外的领域,分析了 Datadog 的 10-K 文件,生成了一份全面的投资备忘录,而 Claude Code 的 Opus 代理无法处理上下文负荷,最终失败。
由于我们致力于开放科学,我们已将一切开源——代码、实验设置、数据和完整推理轨迹——均采用 MIT 许可证。这让你可以直接验证我们的说法、改进方法,或将其应用于你自己的项目。我们坚信未来属于不会在学习过程中遗忘的 AI 系统。如果这引起了你的共鸣,欢迎加入协作或在我们的基础上继续发展。让我们共同推进有状态、智能化的系统。
白皮书论文链接:https://github.com/dl1683/ant-irys/blob/master/whitepaper.pdf
**仓库:** https://github.com/dl1683/ant-irys
论文入门介绍:https://www.linkedin.com/pulse/stateful-swarms-make-ai-agents-cheaper-safer-better-devansh-devansh-8enxe
相似文章
Agent 集群与新型模型经济学
Cursor 的新型 Agent 集群设计采用规划器与工作器模型,将任务分解为树状结构,实现了显著的降本增效。在一项用 Rust 从头重写 SQLite 的测试中,新型集群在四小时内达到 80% 通过率,而旧集群则失败了。
我为代理群体构建了一个持久化运行时
作者构建了一个用于编排代理群体的持久化运行时,实现了多个AI代理的可靠协作。
@AdamRLucek: 我对代理集群(即工作流)持乐观态度。代理正越来越多地被用于分析整理海量数据……
作者讨论了在规模化处理非结构化数据时,代理集群/工作流的使用日益增长,并指出当并行部署超过30个子代理时,可靠执行会显著下降,同时预告了一种将智能决策与可靠任务执行相结合的解决方案。
调试多智能体集群简直是一场噩梦。我开发了一个统一工作空间来追踪智能体的状态和循环。欢迎提供反馈!
作者构建了一个用于调试多智能体AI系统的统一工作空间工具,通过自动化检测无限工具循环和上下文膨胀来跟踪智能体状态和循环。
@tom_doerr: 使用 Google Gemma-4 协同运行 5 个 AI 智能体 https://github.com/aiksa2090/Agentic-Swarm…
介绍 Agentic Swarm,一款开源桌面应用,利用 Google 的 Gemma-4 模型协调 5 个 AI 智能体,完全离线运行。