n-gram

本文提出NGM，一种即插即用、无需训练的大语言模型记忆模块，采用因果N元编码器和余弦门控记忆注入器，无需额外训练即可提升代码生成和知识密集型任务的性能。

NGM是一种无需训练、即插即用的大型语言模型记忆模块，通过利用预训练的词元嵌入进行N-gram知识检索，无需额外训练或检索管道即可提升性能，在代码生成和知识任务上最高可获得3个百分点的提升。