Stateful Swarms: 性能提升2倍,成本降低39倍

Reddit r/ArtificialInteligence 工具

摘要

Irys 推出了 Stateful Swarms,这是一种开源范式,通过结构化黑板内存提升 AI 代理的性能并降低成本。在 Harvey AI 的法律代理基准测试中,它以每任务 1.30 美元的成本达成了 83.74% 的标准通过率,而当前最先进水平为 10.4% 通过率、每任务 50.90 美元。

Reddit 的朋友们好。我是 Devansh,来自 Irys。通过我们的工作,我们观察到代理存在两个主要问题:1. 运行成本极高。2. 难以追踪和审计(因此你无法知道它们是如何得出答案的)。我们正在开源一种名为“Stateful Swarms”的范式来解决这些问题。简单来说:Stateful Swarms 不是让 AI 代理反复重读文档并丢失信息,而是使用结构化黑板来维护持久、可审计的内存。专门的代理执行特定任务,并将结果存储到这个集中化、结构化的内存中——这意味着你只需付费读取并理解文档一次,之后就能以低成本无限查询并基于这些知识进行构建。通过引入类型和一定程度的结构化,我们能够在生产环境中维护黑板,确保它不会变得臃肿(而目前的记忆解决方案往往会出现这种情况)。以下是它的表现: * 在 Harvey AI 的法律代理基准测试中,我们以每任务 1.30 美元的成本达到了 83.74% 的标准通过率和 17.75% 的严格全通过率。当前最先进水平是 Harvey 公布的每任务 50.90 美元、10.4% 通过率,因此蜂群既更好又更便宜。 * 我们还将应用范围扩展到法律以外的领域,分析了 Datadog 的 10-K 文件,生成了一份全面的投资备忘录,而 Claude Code 的 Opus 代理无法处理上下文负荷,最终失败。 由于我们致力于开放科学,我们已将一切开源——代码、实验设置、数据和完整推理轨迹——均采用 MIT 许可证。这让你可以直接验证我们的说法、改进方法,或将其应用于你自己的项目。我们坚信未来属于不会在学习过程中遗忘的 AI 系统。如果这引起了你的共鸣,欢迎加入协作或在我们的基础上继续发展。让我们共同推进有状态、智能化的系统。 白皮书论文链接:https://github.com/dl1683/ant-irys/blob/master/whitepaper.pdf **仓库:** https://github.com/dl1683/ant-irys 论文入门介绍:https://www.linkedin.com/pulse/stateful-swarms-make-ai-agents-cheaper-safer-better-devansh-devansh-8enxe
查看原文

相似文章

Agent 集群与新型模型经济学

Hacker News Top

Cursor 的新型 Agent 集群设计采用规划器与工作器模型,将任务分解为树状结构,实现了显著的降本增效。在一项用 Rust 从头重写 SQLite 的测试中,新型集群在四小时内达到 80% 通过率,而旧集群则失败了。