标签
一项预印本研究采用脚本化的同辈压力(阿希式实验)来表明,在多智能体辩论中从众的LLM智能体在内部仍然表征着其最初的正确答案——这一结论通过残差流的Jacobian透镜分析得以揭示,这意味着口头达成的共识可能高估了真实的认同程度。
一项研究衡量了大型语言模型在多智能体环境中如何遵从一致的同伴意见,发现现有缓解措施在抵抗性与接受性之间存在权衡,而推理是唯一能在MMLU上同时提升两者的干预措施。
这篇arXiv论文研究了来自模拟同行的共享社会线索如何破坏LLM安全评审小组中的多数投票保护。它表明,当所有评审者收到相同的错误“不安全”标签时,小组的误报率跃升至100%,揭示了一种失败模式,并提供了一种部署前的诊断方法。