gradient-retrieval

标签

Cards List
#gradient-retrieval

可检索梯度:无累积权重漂移的持续后训练

arXiv cs.CL ↗ · 2026-06-16 缓存

提出 ReGrad,一种将梯度视为可检索知识单元用于持续后训练的范式,通过将文档特定梯度存储在梯度银行(Gradient Bank)中,并在推理时检索查询相关梯度进行临时权重适应,从而避免累积权重漂移。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈