@zostaff:这篇论文彻底改变了我对会话压缩的看法:建模DAG -> 快照 -> 分支 -> 修剪结构…
摘要
一篇论文提出了一种结构化的会话压缩方法,将聊天历史建模为带有快照和分支的DAG,在保留语义的同时修剪冗余,在编码会话中平均削减20%的token。
查看缓存全文
缓存时间: 2026/08/05 16:26
这篇论文彻底改变了我对会话压缩(session compaction)的看法:
将 DAG 建模 -> 快照 -> 分支 -> 结构性修剪 -> 逐字保留
以下是五步蓝图:
建模 DAG:会话历史并非线性日志,而是版本化状态——一个包含快照和分支的有向无环图。
快照:累积的理解、架构图谱、权衡取舍、代码库约定,都以命名状态的形式被捕获,而不是在窗口溢出时被淹没丢失。
分支:快照可在独立的并行会话中复用,上下文可被分叉(fork),并保留谱系追踪。
结构性修剪:一种三遍算法,剔除机械性冗余、原始工具输出、base64 图片、元数据,而非意义本身。
逐字保留:每条用户消息和助手回复都原封不动地保留,修剪在结构上是无损的。
核心洞察在于:原生自动压缩(autocompaction)会把会话中累积状态的 98% 压成一段简短的摘要,而整个会话过程中获得的每一点理解都随之丢失。
在 76 个真实编码会话中,该方法平均削减了 20% 的 token,在重度会话中最高可达 86%,而在提示缓存(prompt caching)下,混合型会话在 10 轮之内即可达到盈亏平衡。
先读这个,再看下面的文章。
相似文章
有人在研究对话压缩吗?
作者讨论了在其聊天应用'harness'中使用递归摘要来管理上下文,但观察到在许多消息后Qwen Flash Next模型性能下降,质疑对话压缩是否会影响模型连贯性。
@dair_ai: 如果你是一名 AI 开发者,这是一篇很棒的阅读材料。当前的上下文压缩器仅保留用户给出的 17% 的长期规则。会话约…
一篇新论文介绍了 COMPINT,一个评估套件,表明上下文压缩器会静默丢弃会话约束,平均仅保留 17%。一个简单的 SC 感知提取器无需修改压缩器或模型即可恢复超过 90% 的保留率。
StateComp: 学习在长时程智能体中何时压缩历史记录
StateComp是一个根据当前状态压缩长时程智能体历史交互的框架,可将令牌使用量减少52.27%,并在保持任务性能的同时,使表示提取速度提升12.67倍。
@zostaff: 这篇论文彻底改变了我对自我演化代码库的看法:Backlog -> Ideate -> Triage -> Execute -> Poli…
这篇论文提出了一个利用LLM实现自我演化代码库的六阶段蓝图,强调向规范(specification)而非指标收敛。
大家如何处理代理之间的会话膨胀和状态移交?
一位用户讨论了在多代理工作流中会话膨胀和状态移交的挑战,寻求关于状态摘要、外部数据库或LangGraph和AutoGen等框架的解决方案的建议。