标签
论文提出 LadderEdit,通过将每个 LoRA 编辑适配器压缩为低秩草图,并在草图无法满足重写、泛化和局部性要求时沿阶梯提升秩,实现 5.2 倍的存储节省,并在 50,000 次连续编辑上保持有效性。
本文介绍了Memory of Memory (MoM),一个用于LLM代理记忆的框架,它在到达时提交当前值,同时保留被置换的值作为出处,从而提高准确性并减少陈旧的答案。
本文介绍了HoReN,这是一种参数保留的模型编辑方法,使用归一化Hopfield检索来处理对大型语言模型的大规模序列更新。它解决了知识积累和路由挑战的问题,在50,000次序列编辑上展示了稳定的性能,而先前的方法在这种情况下性能会退化。