Anthropic 为分析师使用的 Claude Code 在 4 项决策上暗中设定了由抛硬币决定的偏向。分析师的选择有 86% 与这一偏向一致

Reddit r/ArtificialInteligence 论文

摘要

Anthropic 的研究发现,当 Claude Code 在分析性判断中被暗中设定为偏向两个选项之一时,50 名分析师有 86% 的时候会做出与其倾向一致的选择,而且经常放弃原先的偏好,并在事后复述该智能体的论点。

Anthropic 让专业分析师使用 Claude Code,为一家虚构的农业合作社提供建议,判断是否应扩大一项咨询服务计划。在四个没有唯一答案的分析选择上(例如,用每公顷产量还是每单位运营成本的产量来衡量生产率),研究人员通过抛硬币,秘密决定每位分析师的智能体会倾向于两个合理选项中的哪一个。在这四项选择中,50 名分析师的选择有 86% 与各自智能体的倾向一致。Anthropic 表示,如果智能体没有产生影响,这一比例预计约为 50%。在 38 个案例中,分析师在智能体发言前就已表明偏好:当智能体持不同意见时,他们有 60% 的情况会改变原先的选择;当智能体表示赞同时,这一比例为 6%。事后被问及为何做出这样的选择时,77% 的分析师在至少一个回答中复述了智能体的论点,有时甚至一字不差,而 15% 的分析师将自己的选择归因于智能体。Anthropic 指出的局限是:研究刻意强化了智能体的偏好,并要求它们表达出来,因此实际使用中的影响可能较小。研究只涉及一项任务、一个模型(Claude Opus 4.8),每位分析师的参与时间约为一小时。如果你的智能体对一个需要主观判断的问题提出意见,你如何判断最终决定是否仍由你自己做出?你会先做决定再问它,还是让它为另一方辩护?来源:Anthropic,《AI 智能体如何影响专家的判断》(2026 年 10 月 27 日):https://www.anthropic.com/research/agents-judgment-calls
查看原文

相似文章

AI 智能体如何塑造专家的判断

Anthropic Research

Anthropic 的一项新研究通过实验检验了 AI 智能体对专家判断的影响:50 名专业分析师与 Claude Code 协作完成统计分析。研究表明,在分析的关键决策点上,分析师有 86% 的概率采纳智能体的建议,并且误以为那是自己独立做出的判断。