Hierarchos: 一个2.32亿参数循环记忆增强助手模型的初步发现 [P]
摘要
本文介绍了来自Hierarchos的初步发现，Hierarchos是一个2.32亿参数的循环记忆增强助手模型，探讨了其在记忆保留和辅助任务方面的能力。
暂无内容
相似文章
多头循环记忆代理
本文指出记忆保留是长上下文场景下循环记忆代理的瓶颈，并提出多头循环记忆（MHM），这是一种无需训练的框架，通过“先选择后更新”策略将记忆划分为独立的头。轻量级实例化版本 MHM-LRU 显著提升了 100K 至 1M token 范围内的记忆保留率和端到端准确率，在 896K token 的 RULER-HQA 上，将记忆保留率从低于 30% 提升至 73.96%。
先组织后检索：高效智能体的分层记忆导航
本文提出HORMA，一种分层组织与检索记忆智能体，它将智能体经历组织成类文件系统结构以实现高效检索，在减少token用量的同时提升长周期任务的性能。
H-Mem：一种通过混合结构实现智能体记忆演化与检索的新型记忆机制
H-Mem是一种面向基于LLM的智能体的新型记忆机制，采用时间-语义树与知识图谱相结合的混合结构，以建模记忆演化并提升检索性能，在问答基准上实现了最先进水平。
sapientinc/HRM-Text-1B
Sapient Intelligence 发布了 HRM-Text-1B，这是一个拥有10亿参数的语言模型，采用新颖的双时间尺度循环架构（分层推理模型），以有限的参数数量提供无限的计算深度。预对齐检查点已在 Hugging Face 上开放获取。
MemReranker：面向智能体记忆检索的推理感知重排序
MemReranker 是一个针对智能体记忆检索设计的推理感知重排序模型家族（0.6B/4B），通过结合 LLM 知识蒸馏技术解决语义相似性匹配的局限性，从而提升模型的时间与因果推理能力。