conformity-bias

#conformity-bias

语言模型在 RAG 中表现出从众偏差：当多数支持被投毒的主张时

arXiv cs.CL ↗ · 2天前缓存

该论文研究了RAG系统中的从众偏差：当检索到的多数文档是互相一致的投毒文档时，Gemma-3-12b检测中毒声明的能力从25%显著下降至10%，表明语言模型会随附多数证据而忽视事实核查。

0 人收藏 0 人点赞