context-consolidation

本文介绍了自巩固语言模型（SCoL），这是一种利用元强化学习将当前上下文写入模型权重以实现持续知识整合的框架。实验表明，在问答任务和长上下文巩固任务中，该方法在知识获取和保留方面均优于基线方法。