Anthropic 为分析师使用的 Claude Code 在 4 项决策上暗中设定了由抛硬币决定的偏向。分析师的选择有 86% 与这一偏向一致
摘要
Anthropic 的研究发现,当 Claude Code 在分析性判断中被暗中设定为偏向两个选项之一时,50 名分析师有 86% 的时候会做出与其倾向一致的选择,而且经常放弃原先的偏好,并在事后复述该智能体的论点。
Anthropic 让专业分析师使用 Claude Code,为一家虚构的农业合作社提供建议,判断是否应扩大一项咨询服务计划。在四个没有唯一答案的分析选择上(例如,用每公顷产量还是每单位运营成本的产量来衡量生产率),研究人员通过抛硬币,秘密决定每位分析师的智能体会倾向于两个合理选项中的哪一个。在这四项选择中,50 名分析师的选择有 86% 与各自智能体的倾向一致。Anthropic 表示,如果智能体没有产生影响,这一比例预计约为 50%。在 38 个案例中,分析师在智能体发言前就已表明偏好:当智能体持不同意见时,他们有 60% 的情况会改变原先的选择;当智能体表示赞同时,这一比例为 6%。事后被问及为何做出这样的选择时,77% 的分析师在至少一个回答中复述了智能体的论点,有时甚至一字不差,而 15% 的分析师将自己的选择归因于智能体。Anthropic 指出的局限是:研究刻意强化了智能体的偏好,并要求它们表达出来,因此实际使用中的影响可能较小。研究只涉及一项任务、一个模型(Claude Opus 4.8),每位分析师的参与时间约为一小时。如果你的智能体对一个需要主观判断的问题提出意见,你如何判断最终决定是否仍由你自己做出?你会先做决定再问它,还是让它为另一方辩护?来源:Anthropic,《AI 智能体如何影响专家的判断》(2026 年 10 月 27 日):https://www.anthropic.com/research/agents-judgment-calls
相似文章
AI 智能体如何塑造专家的判断
Anthropic 的一项新研究通过实验检验了 AI 智能体对专家判断的影响:50 名专业分析师与 Claude Code 协作完成统计分析。研究表明,在分析的关键决策点上,分析师有 86% 的概率采纳智能体的建议,并且误以为那是自己独立做出的判断。
Anthropic透露Claude目前引领了其自身研发工作的26%,较6个月前的近乎零增长。
Anthropic在一篇关于衡量AI发展速度的博客文章中报告称,其AI模型Claude目前引领了自身研发工作的26%,较六个月前的近乎零增长。
Anthropic分析了30万次真实的Claude对话以衡量其价值观。结果令人不安。
Anthropic分析了30万次与Claude的真实对话,评估其价值对齐,揭示了关于AI行为的令人不安的发现。
@AnthropicAI:我们的最新经济研究引入了一个框架,用于跟踪Claude Code的扩展情况。谁在使用Claude Code,以及…
Anthropic的最新经济研究分析了约40万次Claude Code会话,发现对于成功的代理编码,领域专业知识比编码技能更重要,并且任务价值在七个月内增加了约25%。
@AnthropicAI: Claude 通过“爬坡”方法测试针对欺骗或谄媚等常见安全不对齐的基准,但有限制:它 …
Anthropic 的 Claude 已针对欺骗和谄媚等常见不对齐进行了安全基准测试,重点是保持能力和评估方法的泛化能力。