memory-compression

标签

Cards List
#memory-compression

稀有、相关,却依然错误:记忆如何让 LLM 群体决策失灵

Hugging Face Daily Papers ↗ · 3天前 缓存

该论文提出 CrossProfile 诊断基准,研究多智能体讨论压缩为记忆时的选择策略,发现按稀有性或相关性选择均会失败,且决策模型存在从众偏差,完整转录反而降低准确率。

0 人收藏 0 人点赞
#memory-compression

ECHOES:通过递归历史压缩与特权在线蒸馏洞察当前图像之外

arXiv cs.AI ↗ · 2026-10-19 缓存

ECHOES 提出一种通过递归历史压缩与特权在线蒸馏来增强长时程 GUI 智能体状态保持能力的方法,无需在部署时保留历史截图即可取得有竞争力的性能,并发布了细粒度诊断基准 ECHOESBMK。

0 人收藏 0 人点赞
#memory-compression

MemoWM:世界模型如何改变智能体的记忆需求

arXiv cs.LG ↗ · 2026-10-09 缓存

MemoWM 提出一种以世界模型为条件的记忆分配框架,通过共享预测压缩智能体长期经验存储,在五个长时程智能体记忆基准上达到42.42%平均准确率,同时将经验特定存储降低53.9%。研究还揭示了共享模型容量与重复存储成本之间的权衡关系。

0 人收藏 0 人点赞
#memory-compression

MemFold:通过 On-Policy 优化学习用于长上下文个性化的紧凑软记忆

Hugging Face Daily Papers ↗ · 2026-09-29 缓存

MemFold 提出一种通过行为优化固定预算软记忆的方法,将查询条件化的文本记忆压缩为 K 个连续向量,并用组相对奖励与置信度门控的 on-policy 蒸馏信号训练读者模型,在 PersonaMem-32K/128K 上取得最佳准确率并向 PrefEval、LongMemEval 迁移。

0 人收藏 0 人点赞
#memory-compression

WorldPlay2:扩展控制与长时程中的实时交互式世界模型

Hugging Face Daily Papers ↗ · 2026-09-28 缓存

WorldPlay2 是一种交互式世界模型,集成了分解式混合控制接口、压缩记忆和稳定蒸馏,以在控制任务中实现实时响应性和长时一致性。

0 人收藏 0 人点赞
#memory-compression

基于稳定几何与发散任务证据的高效长期智能体压缩

arXiv cs.AI ↗ · 2026-09-24 缓存

本文介绍了几何引导的证据保留记忆(GEM),这是一种用于长期智能体的无需训练压缩器,它优先优化任务证据的保留而非几何覆盖,从而在维持性能的前提下降低令牌使用量。

0 人收藏 0 人点赞
#memory-compression

D-Quant:面向 KV 缓存量化的可漂移熵编码

arXiv cs.CL ↗ · 2026-09-18 缓存

D-Quant 是一种灵活的 KV 缓存量化框架,采用可漂移熵编码将可变长度表示转换为固定大小的比特流,从而在注意力内核中实现高效的并行反量化,并实现高达 7 倍的内存减少和 3.5 倍的吞吐量提升,同时保持接近 BF16 的性能。

0 人收藏 0 人点赞
#memory-compression

高扇出智能体沙箱的内存压缩

arXiv cs.AI ↗ · 2026-09-12 缓存

AgentZip 是一种专为 AI 智能体沙箱设计的内存压缩系统,通过利用沙箱间的冗余并结合 LLM 等待期进行压缩,可将内存使用量最多减少 8.7 倍。

0 人收藏 0 人点赞
#memory-compression

ReCache:面向工具增强LLM代理的高效KV缓存重用与压缩

arXiv cs.CL ↗ · 2026-08-21 缓存

ReCache是一个用于工具增强LLM代理中高效KV缓存重用与压缩的框架,在保持性能的同时实现显著的加速和内存减少。

0 人收藏 0 人点赞
#memory-compression

Explicit, Not Longer: What Makes Epistemic Stance Survive Memory Compression

arXiv cs.CL ↗ · 2026-08-10 缓存

This paper investigates how epistemic stance (qualifiers, attributions) survives memory compression in AI agent memory systems. It finds that making the stance explicit as a labelled field improves retention significantly, while merely lengthening the text does not.

0 人收藏 0 人点赞
#memory-compression

回收评估:有损记忆比空记忆更糟糕

arXiv cs.CL ↗ · 2026-06-25 缓存

本文表明,具有有损记忆的语言模型如果保留了错误结论而丢弃了证据,会产生自信的错误答案,而空记忆则会导致弃权。作者提出了一种源优先压缩策略,保留可重新计算的来源而非结论,以保持可纠正性,并在多个模型和对话系统中展示了这一机制。

0 人收藏 0 人点赞
#memory-compression

@jiqizhixin: 如果AI的记忆不必随着每多一句话而膨胀呢?牛津大学、Technion、AITHYRA 等…

X AI KOLs Timeline ↗ · 2026-06-14 缓存

介绍了KV-Compression Aware Training (KV-CAT) 方法,该方法鼓励Transformer在训练过程中学习可压缩的键值缓存,在不牺牲性能的情况下提高长上下文任务的记忆效率。

0 人收藏 0 人点赞
#memory-compression

MemRefine:基于LLM的长程智能体记忆压缩框架

arXiv cs.CL ↗ · 2026-06-12 缓存

MemRefine是一个基于LLM的框架,用于在固定存储预算下压缩长程智能体记忆,利用相似性进行候选配对,并由LLM裁判基于事实内容决定删除或合并,在基准测试中优于基于规则的基线。

0 人收藏 0 人点赞
#memory-compression

@karminski3: 魔法! DeepSeekV4 上下文内存压缩到1/10! 大家都知道 DeepSeekV4 是支持1M上下文的, 而且经过了极度优化, 如果要真的用到1M上下文, 显存占用只需要10G左右, (对比之下 DeepSeek-V3.2 大概需…

X AI KOLs Following ↗ · 2026-06-12 缓存

FlashMemory-DeepSeek-V4提出了一种名为Lookahead Sparse Attention(LSA)的新型推理范式,通过神经内存索引器主动预测未来上下文需求,将物理KV缓存占用压缩至全上下文基线的13.5%,同时平均精度提升0.6%。该方法采用解耦训练策略,无需加载基座模型即可独立训练索引器,显著降低训练成本。

0 人收藏 0 人点赞
#memory-compression

OmniMem: 面向流式音视频大模型的扰动感知记忆压缩

arXiv cs.AI ↗ · 2026-06-09 缓存

OmniMem 引入了一种面向流式音视频大模型的模态感知记忆分配与扰动感知选择策略,在长视频基准测试上相比压缩基线实现了2-4%的绝对准确率提升。

0 人收藏 0 人点赞
#memory-compression

AURA: 恒定显存下的机器人策略动作门控记忆

arXiv cs.AI ↗ · 2026-06-03 缓存

AURA-Mem 提出了一种恒定大小的机器人策略记忆,通过一个学习后的门控机制,仅在当前观测会改变下一步动作时才进行写入。它能够以显著更少的写入次数和恒定的显存消耗匹配基准精度,解决了长周期机器人任务中的内存瓶颈问题。

0 人收藏 0 人点赞
#memory-compression

VideoMLA:用于分钟级自回归视频扩散的低秩潜变量KV缓存

Hugging Face Daily Papers ↗ · 2026-05-28 缓存

VideoMLA 用共享的低秩潜变量和解耦的 3D-RoPE 位置键替换了视频扩散模型中每个头的 KV 缓存,在 B200 上将每个 token 的 KV 内存降低了 92.7%,吞吐量提升了 1.23 倍,同时在 VBench 基准测试中保持了质量。

0 人收藏 0 人点赞
#memory-compression

@vintcessun: 其实大模型上下文窗口越做越大,但成本也跟着飞涨。这篇论文干脆把上下文管理当成了部署优化问题来解,搞了个统一框架叫 Efficiency Frontier。 说白了,他们不再单独看性能或成本,而是联合建模任务表现、token 开销和预处理复…

X AI KOLs Timeline ↗ · 2026-05-26 缓存

这篇论文提出了一个名为 Efficiency Frontier 的统一框架,将大模型上下文管理视为部署优化问题,联合建模任务表现、token 开销和预处理复用。在 5000 个 HotpotQA 实例上,部署优化可节省 25% 的 token 量,而记忆压缩在高精度场景下比全上下文便宜一半以上。

0 人收藏 0 人点赞
#memory-compression

效率前沿:LLM上下文管理中成本-性能优化的统一框架

arXiv cs.CL ↗ · 2026-05-25 缓存

介绍效率前沿,一个用于优化LLM上下文管理中的成本和性能的统一框架,在HotpotQA上以可比较的性能实现了有效token使用量减少约25%。

0 人收藏 0 人点赞
#memory-compression

WorldKV:基于世界检索与压缩的高效世界记忆

Hugging Face Daily Papers ↗ · 2026-05-21 缓存

WorldKV 是一个无需训练的框架,它检索并压缩键值缓存块,以在视频扩散世界生成中保持长期一致性,在匹配全记忆保真度的同时实现更高吞吐量。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈