大家如何处理代理之间的会话膨胀和状态移交?

Reddit r/AI_Agents 新闻

摘要

一位用户讨论了在多代理工作流中会话膨胀和状态移交的挑战,寻求关于状态摘要、外部数据库或LangGraph和AutoGen等框架的解决方案的建议。

大家好,随着我不断扩展我的多代理工作流,我一直在遇到一个令人沮丧的瓶颈:会话状态管理。当对话持续时间过长,或者当代理处理复杂任务时,会话状态(和上下文窗口)就会爆炸式增长。它变得非常昂贵,延迟也急剧上升。我目前的主要挑战是移交过程。当会话变得过于臃肿,我需要将上下文传递给另一个专门的代理或一个全新的会话时,最干净的方式是什么,而不会丢失关键上下文?我对你们的真实环境设置很好奇:你们是在移交前对状态进行摘要吗?完全依赖外部数据库(如Redis、Postgres或Vector DBs)来重建状态吗?使用像LangGraph或AutoGen这样的框架来管理路由和记忆吗?很想听听你们在生产中是如何解决这个问题的!
查看原文

相似文章