gating-adapter

标签

Cards List
#gating-adapter

TokenMem: 面向冻结大语言模型的忠实知识注入

arXiv cs.AI · 18小时前 缓存

TokenMem通过专用的交叉注意力通道向冻结的大语言模型注入知识,训练一个轻量的门控适配器(两阶段课程),以提升在反事实知识下的知识合规性,在反事实基准上实现了69-70%的知识合规率(KC),而传统RAG仅为20-52%。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈