标签
该 arXiv 论文研究了错误的训练数据如何在没有任何激活触发的情况下影响语言模型的事实性回答和下游决策，指出在直接探查事实回忆与模型实际行为之间存在审计缺口，其中包括一个关于 Facebook 上纵火引发山火的虚假信息的真实案例。
本文介绍了Hallucination-R1，一个面向鲁棒性的改写生成框架，旨在通过创建语义等价但具有挑战性的改写来识别并提升大型语言模型中的事实一致性。
本文提出了一种潜在空间干预方法，用于改善大型语言模型中的跨语言事实一致性，在不损失事实精度的情况下实现更好的对齐。
本文提出了一种用于评估大型语言模型（LLM）响应的多因素评分系统，综合了准确性、简洁性、事实一致性、可读性和连贯性。应用于TruthfulQA数据集，揭示了主流模型的优势与局限，提供了一个透明的评估框架。
BinEval是一个新框架，它将LLM评估标准分解为原子化的二元问题，提高了可解释性，并实现了有针对性的提示优化，在事实一致性基准上取得了强劲的结果。
本文介绍了一种通过偏好学习聚合多个弱指标的分数来提高文本摘要事实一致性的方法，在各种语言模型上实现了一致的事实性提升。