标签
本文分析了大语言模型对提供上下文的忠实度如何取决于其感知的合理性,使用多种语言的事实性、反事实性和虚构性RDF三元组。研究发现上下文-记忆冲突较弱,并强调LLM判断者的选择可能高估其强度。
本文识别并描述了分解引发的上下文-记忆冲突(DI-CC),这是分解后验证流水线中的一种故障模式,其中分解会用模型的参数化信念替代源文本。作者表明它在机制上与经典的上下文-记忆冲突相关,SelfCheckGPT 无法检测到它,而上下文感知解码可以抑制它,但会引入严重的解析失败。