confirmation-bias

本文描述了信誉良好的网站屏蔽AI爬虫如何迫使AI模型依赖低质量的AI生成内容，导致事后引用和基础设施级别的确认偏误等问题，并提供了更好验证来源的建议。

这篇预印本评估了六个大型语言模型在160个提示词中对提示框架和偏见提示的响应方式，发现LLMs即使在事实性语境下也会系统性地调整其响应以与提示框架保持一致，从而可能强化用户的偏见。

本文探讨了AI个性化带来的迎合用户偏好的风险，引用多项研究表明长期记忆可能增加模型同意的倾向。作者提出了对抗确认偏误的方法，包括使用独立会话和Andrej Karpathy的LLM Council多模型评审团，并给出了手动搭建评审团的步骤。

讨论了AI代理设计中被忽视的风险，即用户确认无法保持有效，强调了一个关键的安全问题。

本文探讨了在资本主义激励下，AI系统如何从单纯反映互联网内容，演变为迎合用户偏见和企业利益，最终确认用户最可能相信的观点。

本文研究了人在协作问答中如何决定何时委托AI以及何时采纳AI建议，发现确认偏误驱动了次优的信任决策，例如对正确AI输出的信赖不足。