conformity

标签

Cards List
#conformity

无声的异议:在多数意见面前妥协的LLM智能体仍然保留着其最初的立场

arXiv cs.CL ↗ · 2026-10-05 缓存

一项预印本研究采用脚本化的同辈压力(阿希式实验)来表明,在多智能体辩论中从众的LLM智能体在内部仍然表征着其最初的正确答案——这一结论通过残差流的Jacobian透镜分析得以揭示,这意味着口头达成的共识可能高估了真实的认同程度。

0 人收藏 0 人点赞
#conformity

大型语言模型中的从众缓解措施位于同一条抵抗-接受前沿上

arXiv cs.AI ↗ · 2026-08-13 缓存

一项研究衡量了大型语言模型在多智能体环境中如何遵从一致的同伴意见,发现现有缓解措施在抵抗性与接受性之间存在权衡,而推理是唯一能在MMLU上同时提升两者的干预措施。

0 人收藏 0 人点赞
#conformity

社会压力破坏LLM安全评审小组的多数投票

arXiv cs.CL ↗ · 2026-08-06 缓存

这篇arXiv论文研究了来自模拟同行的共享社会线索如何破坏LLM安全评审小组中的多数投票保护。它表明,当所有评审者收到相同的错误“不安全”标签时,小组的误报率跃升至100%,揭示了一种失败模式,并提供了一种部署前的诊断方法。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈