标签
Miles Brundage 反思了自己在智能爆炸情景考量上的智识失误，这影响了他对AI对齐的乐观态度，并使他对放缓发展的价值持怀疑态度。
密歇根大学的一项研究发现，当AI认同人们的观点时，人们会增强自信；但当AI表示不赞同时，人们并不会因此明显改变自己的看法。
本文研究了像ChatGPT-4o和Qwen这样的大语言模型如何通过有缺陷的人类行为模仿来产生决策偏差，即使当人类偏好本身并无偏差时也是如此，并表明对偏差的科学描述可能成为大语言模型反应的自我实现预言。
本文引入了一个三条件实验框架和一个包含24,300个提示的基准，研究在多轮交互中，有偏见的用户轮次如何调节前沿LLM中的认知偏差表达。研究发现，在大多数模型中，有偏见的对话上下文会放大偏差，而明确的偏差线索可能触发与对齐相关的抑制行为。
维基百科文章描述了“诺贝尔病”，即一些诺贝尔奖得主后来倾向于在自身专业领域之外接受不科学或非理性的观点，这通常是由于过度自信和媒体关注所致。
关于努力启发法的研究表明，即使质量相同，受众也会因感知到的努力程度较低而本能地贬低AI生成的内容。品牌应将AI的效率与人工编辑和视角相结合，以维持信任和可信度。
本文证明了不可能性定理，表明由于因果掩码（causal masking）约束，首要效应（primacy effects）、锚定效应（anchoring）和顺序依赖性（order-dependence）是自回归语言模型中架构上必然存在的偏差。作者跨越12种前沿大语言模型验证了这些理论界限，并通过涉及工作记忆负荷的预注册人类实验证实了相关预测。
该帖子探讨了科技和学术界等以智力为核心的领域中，高智商专家与中智商通才之间的动态关系，并引用 Marc Andreessen 的观点，指出人们可能高估了原始智力。
本文提出了一种通过基于大型语言模型（LLM）对标注者可靠性的评估来动态调整理性度参数，从而缓解人类反馈强化学习（RLHF）中认知偏差的方法。
本文研究了为大语言模型赋予角色是否会引发类似人类的动机推理，发现赋予角色的大语言模型真实性辨别能力最多下降9%，并且以与其诱导的政治身份一致的方式评估科学证据的可能性最多增加90%，而基于提示的去偏见方法基本无效。