LLM 即通用异步智能体
摘要
论文提出了一种通用的异步 LLM 框架,允许用户定义具有重叠记忆状态的推理协程,并展示 Qwen3.x 模型无需针对特定任务进行训练,即可异步处理流式视频、电子游戏和监控任务。
查看缓存全文
缓存时间: 2026/09/30 12:16
论文页面 - LLMs are General Asynchronous Agents
来源:https://huggingface.co/papers/2609.35427
摘要
现代 LLM 作为自主智能体的能力日益增强,但它们遵循的是顺序式交互循环:读取、思考、回复或调用工具,然后重复。许多真实世界的用例并非顺序式的:语音助手、具身智能体以及监控系统在思考或执行其他任务时,会不断接收新的输入。现代 LLM 通过专用架构来应对这些问题,例如面向语音交互和视频流的专用架构、用于机器人控制的 VLA、面向 API 使用的异步工具调用等。在本工作中,我们从不同的异步任务出发进行泛化,提出能够适应不同并发类型的通用异步智能体。为此,我们开发了一个异步 LLM 框架,允许用户(或智能体自身)定义具有重叠记忆状态的推理协程。我们展示了 Qwen3.x 系列模型能够在流式视频理解、视频游戏和监控等场景中进行异步操作,且无需针对特定任务进行训练。
查看 arXiv 页面 (https://arxiv.org/abs/2609.35427)查看 PDF (https://arxiv.org/pdf/2609.35427)项目页面 (https://dvmazur.github.io/async_llm)GitHub4 (https://github.com/dvmazur/async_llm)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.35427)
在你的智能体中获取这篇论文:
hf papers read 2609.35427
还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型0
暂无模型链接到本文
在模型的 README.md 中引用 arxiv.org/abs/2609.35427 即可将本文链接到此页面。
引用本文的数据集0
暂无数据集链接到本文
在数据集的 README.md 中引用 arxiv.org/abs/2609.35427 即可将本文链接到此页面。
引用本文的 Space0
暂无 Space 链接到本文
在 Space 的 README.md 中引用 arxiv.org/abs/2609.35427 即可将本文链接到此页面。
包含本文的合集0
暂无包含本文的合集
将本文添加到合集 (https://huggingface.co/new-collection) 以将本文链接到此页面。
相似文章
你的LLM不应该是你的编码智能体工作流
主张在编码智能体工作流中,LLM应仅用于推理,而由确定性基础设施处理队列、状态、重试和恢复,这样即使达到使用限制,流程也不会中断。
多流大语言模型:通过并行思维、输入与输出流解锁语言模型的潜力
本文提出了多流大语言模型(Multi-Stream LLMs),将基于顺序消息的指令微调转变为并行流处理。这种方法允许语言模型在多个并发数据流中同时进行读取、思考和生成,解决了自主智能体应用中的瓶颈问题。
该用哪个 API 来构建通用实时 LLM 代理 [讨论]
一篇 Hacker News 上的讨论,探讨应该使用什么 API/接口来构建通用的实时异步 LLM 代理,使其能在推理过程中对新刺激(中断、实时事件流)做出反应。文中引用了 AsyncLLM 预印本以及各厂商现有的实时 API 作为部分解决方案。
选择大语言模型擅长与不擅长的任务
该文章强调,大语言模型在处理模糊判断任务方面表现卓越,但在执行一致性计算时表现平平,因此主张在多智能体系统中实现任务专门化。
Multi-Stream LLMs:关于并行/分离提示、思考、I/O的新论文
本文提出了Multi-Stream LLMs,它使用多个并行的输入/输出流,使模型能够同时读取和生成,从而解除顺序聊天格式的限制。