无状态语言智能体:扩展长时程自动化研究

Hugging Face Daily Papers 论文

摘要

论文提出无状态语言代理 (SLAs),采用「有状态搜索 + 无状态代理」原则,由框架持有研究状态并为每次调用重建专属上下文,在长达十亿 token 的预算下于软件工程、内核优化和算法设计任务中均取得最佳结果,且比最强基线节省超过 84% 的 token。

自动化研究系统越来越多地让大语言模型(LLM)智能体开展长周期研究,但更多推理本身并不会带来更多进展:智能体会反复处理不断增长的历史记录、重复彼此的工作,或在令牌消耗持续的情况下停止实验。然而,大多数评估采用较小的预算,或使用很早就达到饱和的基准,导致这些失效模式未得到检验。我们将这些失效归因于两个选择:研究状态存储在哪里,以及由谁决定接下来尝试什么。我们提出无状态语言智能体(Stateless Language Agents,SLAs),其核心原则是以无状态智能体执行有状态搜索:任何智能体都不会在多次调用之间保留对话;相反,运行管理系统负责维护研究状态(候选解及其测量结果),并为每次调用重新构建与角色相匹配的上下文。每个智能体看到什么成为一项明确的设计选择,而不再是一段随着运行不断增长的历史。我们在 SLA 框架中实现了这一原则:无状态的顾问智能体读取运行管理系统汇总的各个搜索方向的证据,并向并行工作的执行智能体分配具体实验。我们在软件工程、内核优化和算法设计任务上,将 SLA 与三个近期框架进行比较,评估预算最高达十亿令牌。SLA 在每项任务上都取得了最佳最终结果,并以减少超过 84% 的令牌消耗,达到了最强内核优化基线的最终性能。从相同检查点出发的消融实验表明,聚焦的上下文和明确的任务分配都对 SLA 的进展有所贡献,其效果可在完整运行过程中叠加,而顾问智能体消耗的令牌不足总量的 0.6%。这些结果支持采用将持久研究状态置于智能体对话之外的 SLA,并表明较短的评估周期可能会导致对研究系统及其组件的误判。
查看原文
查看缓存全文

缓存时间: 2026/10/12 06:55

论文页面 - 无状态语言智能体:扩展长时程自动化研究

来源:https://huggingface.co/papers/2610.07625 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

自动化研究系统越来越多地让大语言模型智能体长时间运行,但更多推理本身并不会带来更多进展:智能体反复处理不断增长的历史记录、重复彼此的工作,或在词元消耗持续增加时停止实验.然而,大多数评估使用较短的预算,或采用很快达到饱和的基准,使这些失效模式未得到检验.我们将这些失效归因于两个选择:研究状态存储在哪里,以及由谁决定下一步尝试什么.我们提出无状态语言智能体(SLA),其建立在“有状态搜索、无状态智能体”的原则之上:没有任何智能体会在多次调用之间保留对话;相反,运行框架负责管理研究状态(候选解决方案和测量结果),并为每次调用重新构建全新的、针对特定角色的上下文.每个智能体看到什么,成为一项明确的设计选择,而不再是随运行不断增长的历史记录.我们在 SLA 框架中实现了这一原则,其中无状态的顾问智能体读取运行框架汇总的各个搜索方向的证据,并向并行工作的执行智能体分配具体实验.我们在软件工程、内核优化和算法设计任务上,将 SLA 与三个近期框架进行了比较,预算最高达十亿词元.SLA 在每项任务上都取得了最佳最终结果,并以减少超过 84% 的词元消耗,达到了最强内核优化基线的最终性能.从共享检查点出发的消融实验表明,聚焦的上下文和明确的任务分配分别促进了 SLA 的进展,其效果可在完整运行过程中叠加,而顾问智能体消耗的词元不到 0.6%.这些结果支持采用 SLA,将持久的研究状态保存在智能体对话之外,并表明较短的评估时程可能导致对研究系统及其组件的误判.

查看 arXiv 页面 (https://arxiv.org/abs/2610.07625)查看 PDF (https://arxiv.org/pdf/2610.07625)GitHub1 (https://github.com/Alex-q-z/stateless-language-agents)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.07625)

在你的智能体中获取这篇论文:

hf papers read 2610\.07625

还没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型链接到这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.07625,即可从此页面链接到该模型.

引用这篇论文的数据集0

没有数据集链接到这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.07625,即可从此页面链接到该数据集.

引用这篇论文的 Spaces0

没有 Space 链接到这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.07625,即可从此页面链接到该 Space.

包含这篇论文的合集0

没有合集包含这篇论文

将这篇论文添加到一个合集 (https://huggingface.co/new-collection),即可从此页面链接到该合集.

相似文章

为什么要花钱让一个模型去即兴发挥你已经熟知的工作流?

Reddit r/AI_Agents

作者提出一种新思路:构建大量用自然语言描述的任务专用 agent,通过语义搜索为每个请求匹配并执行正确的 agent,以此规避 Claude Code 等 agent 框架工具集过大、上下文腐化、不可预测和成本膨胀的问题。文中还对比了 Agent/MCP 网关、子 agent 和工具搜索等替代方案。