标签
本文从因果角度分析了多语言大语言模型如何在英语、法语、越南语和中文中表征否定,揭示了一个共享且可通过因果干预加以控制的否定方向,甚至每个模型中仅一个稀疏自编码器特征,就能在不同语言中引入或消除否定,并泛化到未见过的语言。
本文研究了大语言模型如何处理否定,发现它们在 37–71% 的否定提示中未能翻转答案,原因是专门的注意力头和 MLP 神经元只是抑制了原始答案,而非利用它来选择替代答案;针对这一机制设计的置信度加权训练目标能够减少否定失败,同时造成的性能退化更小。
本文研究人类对话中口语否定线索如何在多模态非言语行为中体现,使用时间序列分类模型在无词汇或声学输入的情况下区分否定上下文与控制上下文。
本文研究了大语言模型如何处理否定与比喻语言的组合,发现这种组合构成了特殊挑战,且模型表现高度依赖于提示风格。作者为Fig-QA数据集新增了标注,并通过分析嵌入空间揭示了时态和具体性等额外语言因素的影响。
MIT 研究人员发布首个涵盖七种语言的多语言否定基准,发现 CLIP 等模型在非拉丁文字上表现不佳,而 MultiCLIP 与 SpaceVLM 在各语言间的提升并不均衡。