标签
该论文提出 CrossProfile 诊断基准,研究多智能体讨论压缩为记忆时的选择策略,发现按稀有性或相关性选择均会失败,且决策模型存在从众偏差,完整转录反而降低准确率。
ECHOES 提出一种通过递归历史压缩与特权在线蒸馏来增强长时程 GUI 智能体状态保持能力的方法,无需在部署时保留历史截图即可取得有竞争力的性能,并发布了细粒度诊断基准 ECHOESBMK。
MemoWM 提出一种以世界模型为条件的记忆分配框架,通过共享预测压缩智能体长期经验存储,在五个长时程智能体记忆基准上达到42.42%平均准确率,同时将经验特定存储降低53.9%。研究还揭示了共享模型容量与重复存储成本之间的权衡关系。
MemFold 提出一种通过行为优化固定预算软记忆的方法,将查询条件化的文本记忆压缩为 K 个连续向量,并用组相对奖励与置信度门控的 on-policy 蒸馏信号训练读者模型,在 PersonaMem-32K/128K 上取得最佳准确率并向 PrefEval、LongMemEval 迁移。
WorldPlay2 是一种交互式世界模型,集成了分解式混合控制接口、压缩记忆和稳定蒸馏,以在控制任务中实现实时响应性和长时一致性。
本文介绍了几何引导的证据保留记忆(GEM),这是一种用于长期智能体的无需训练压缩器,它优先优化任务证据的保留而非几何覆盖,从而在维持性能的前提下降低令牌使用量。
D-Quant 是一种灵活的 KV 缓存量化框架,采用可漂移熵编码将可变长度表示转换为固定大小的比特流,从而在注意力内核中实现高效的并行反量化,并实现高达 7 倍的内存减少和 3.5 倍的吞吐量提升,同时保持接近 BF16 的性能。
AgentZip 是一种专为 AI 智能体沙箱设计的内存压缩系统,通过利用沙箱间的冗余并结合 LLM 等待期进行压缩,可将内存使用量最多减少 8.7 倍。
ReCache是一个用于工具增强LLM代理中高效KV缓存重用与压缩的框架,在保持性能的同时实现显著的加速和内存减少。
This paper investigates how epistemic stance (qualifiers, attributions) survives memory compression in AI agent memory systems. It finds that making the stance explicit as a labelled field improves retention significantly, while merely lengthening the text does not.
本文表明,具有有损记忆的语言模型如果保留了错误结论而丢弃了证据,会产生自信的错误答案,而空记忆则会导致弃权。作者提出了一种源优先压缩策略,保留可重新计算的来源而非结论,以保持可纠正性,并在多个模型和对话系统中展示了这一机制。
介绍了KV-Compression Aware Training (KV-CAT) 方法,该方法鼓励Transformer在训练过程中学习可压缩的键值缓存,在不牺牲性能的情况下提高长上下文任务的记忆效率。
MemRefine是一个基于LLM的框架,用于在固定存储预算下压缩长程智能体记忆,利用相似性进行候选配对,并由LLM裁判基于事实内容决定删除或合并,在基准测试中优于基于规则的基线。
FlashMemory-DeepSeek-V4提出了一种名为Lookahead Sparse Attention(LSA)的新型推理范式,通过神经内存索引器主动预测未来上下文需求,将物理KV缓存占用压缩至全上下文基线的13.5%,同时平均精度提升0.6%。该方法采用解耦训练策略,无需加载基座模型即可独立训练索引器,显著降低训练成本。
OmniMem 引入了一种面向流式音视频大模型的模态感知记忆分配与扰动感知选择策略,在长视频基准测试上相比压缩基线实现了2-4%的绝对准确率提升。
AURA-Mem 提出了一种恒定大小的机器人策略记忆,通过一个学习后的门控机制,仅在当前观测会改变下一步动作时才进行写入。它能够以显著更少的写入次数和恒定的显存消耗匹配基准精度,解决了长周期机器人任务中的内存瓶颈问题。
VideoMLA 用共享的低秩潜变量和解耦的 3D-RoPE 位置键替换了视频扩散模型中每个头的 KV 缓存,在 B200 上将每个 token 的 KV 内存降低了 92.7%,吞吐量提升了 1.23 倍,同时在 VBench 基准测试中保持了质量。
这篇论文提出了一个名为 Efficiency Frontier 的统一框架,将大模型上下文管理视为部署优化问题,联合建模任务表现、token 开销和预处理复用。在 5000 个 HotpotQA 实例上,部署优化可节省 25% 的 token 量,而记忆压缩在高精度场景下比全上下文便宜一半以上。
介绍效率前沿,一个用于优化LLM上下文管理中的成本和性能的统一框架,在HotpotQA上以可比较的性能实现了有效token使用量减少约25%。
WorldKV 是一个无需训练的框架,它检索并压缩键值缓存块,以在视频扩散世界生成中保持长期一致性,在匹配全记忆保真度的同时实现更高吞吐量。