AI 代理并非你的“同事”

MIT Technology Review 新闻
ai-agents workplace research automation responsibility human-ai-collaboration

摘要

根据波士顿大学教授艾玛·怀尔斯的一项研究，将 AI 代理视为同事而非工具，会导致错误检测率降低 18%，并转移责任。文章警告不要过度拟人化 AI，并指出了在医疗、战争和政府领域的风险。

<p><em>本文最初发表于《算法》周刊，这是我们关于 AI 的每周通讯。要将此类文章第一时间发送至您的邮箱，请</em><a href="https://forms.technologyreview.com/newsletters/ai-demystified-the-algorithm/"><em>在此注册</em></a><em>。</em></p> <p>想象一下，上班时得知有一个新人将向你汇报。这位员工不是真人，而是一个 AI 工具——然而你的公司却将其称为 Alex，一个拥有职位和明确职责的“员工”。你认为你能和 Alex 合作得如何？</p> <p>如果你和波士顿大学商学院教授艾玛·怀尔斯最近研究的那些管理者类似，那么将 Alex 视为“同事”而非软件工具，会导致你表现更差。怀尔斯<a href="https://hbr.org/2026/05/research-why-you-shouldnt-treat-ai-agents-like-employees">发现</a>，当工作被认为来自一个自主的“AI 员工”而非聊天机器人时，人们捕捉到的错误减少了 18%。事实证明，名称很重要，而且非常重要。</p> <p>这让我们得以一窥硅谷正把我们推向的未来，令人担忧。去年，Nvidia 首席执行官黄仁勋曾<a href="https://fortune.com/2025/10/20/jensen-huang-nvidia-ai-future-workforce-digital-humans-hiring-onboarding-orientation/">谈到</a>拥有“数字人类”的工作场所。自 4 月以来，Microsoft、OpenAI、Anthropic 和 Google 都发布了面向管理 AI 代理团队的新工具，其中许多被明确宣传为具有与真人相当的灵活性和认知能力的数字同事。在参与怀尔斯研究的 1261 名管理者中，近三分之一表示，他们的公司已经将 AI 代理视为员工（23% 的公司甚至将其列在组织架构图上）。</p> <p>当然，自主 AI 的技术进步并非空穴来风。代理（可以有效地视为被编程为循环工作直到达成目标的 AI 工具）在更复杂任务上的表现已<a href="https://www.technologyreview.com/2026/02/05/1132254/this-is-the-most-misunderstood-graph-in-ai/">得到显著提升</a>。但将这些工具称为同事或员工是一个巨大的飞跃，这样做会给 AI 的能力设定不切实际的期望，同时让本应为其负责的人类员工处境更糟。</p> <p>怀尔斯的研究表明，部分原因在于这颠倒我们对谁负责的感觉。当 AI 工具被设定为员工时，研究参与者认为自己对其输出结果的责任更少。他们将有问题的结果上报给经理进行进一步审查的可能性也增加了 44%（从而否定了使用 AI 代理节省时间的目的）。</p> <p>这关乎的远不止办公室文化：随着 AI 代理被嵌入医疗、战争、教育和政府领域，它们很可能成为一个方便的“甩锅”对象，而失败根源其实是糟糕的人类决策、激励措施和监督（回想一下伊朗女子学校遭炸弹袭击事件，普遍归咎于 Claude，但<a href="https://www.theguardian.com/news/2026/mar/26/ai-got-the-blame-for-the-iran-school-bombing-the-truth-is-far-more-worrying">所有迹象</a>都指向一连串的人为错误）。</p> <p>“目前 AI 代理被宣传为可以取代人类的东西，我认为这是一个注定失败的主张，”麻省理工学院经济学家、2024 年诺贝尔奖得主、研究 AI 对经济影响的达龙·阿西莫格鲁表示。“它们应该被优化以提高人类的能力，而不是像目前这样。”</p> <p>那会是什么样子呢？看看斯坦福大学的一项最新<a href="https://futureofwork.saltlab.stanford.edu/">研究</a>，研究人员向 104 个工作岗位的 1500 名员工提供了有关 AI 可能在其工作中执行哪些任务的信息，然后询问什么才是真正最有帮助和最有成效的。员工确实希望在特定领域实现自动化：例如，法律助理认为 AI 可以帮助确保各案件取得足够进展。但通常技术专家认为最适合 AI 的任务——比如为销售代表验证客户信用评级——正是员工们明确表示不想要也不需要代理去做的事情。</p> <p>这就让我们回到了 Alex 的话题上。称 Alex 为员工很容易，也很方便（尤其是出了问题时），但这只是一场品牌包装。这并不会使工具更胜任工作，而且正如怀尔斯的研究所示，这会使周围的人类员工表现更差。请记住，他们才是拥有 AI 试图复制的那种自主能动性的人。他们值得比 Alex 更好的对待。</p>
查看原文
查看缓存全文

缓存时间: 2026/06/29 23:24

# AI智能体不是你的“同事” 来源：https://www.technologyreview.com/2026/06/29/1139849/ai-agents-are-not-your-coworkers 如果你和波士顿大学商学院教授Emma Wiles最近研究的那群管理者差不多，那么把Alex视为“同事”而非软件工具，反而会让你工作得更差劲。Wiles发现，当工作成果被认定为来自一个具备自主性的“AI员工”而非聊天机器人时，人们捕捉到的错误会减少18%。事实证明，名称很重要——非常重要。 这令人警醒地预示着硅谷正将我们推向的未来。去年，英伟达CEO黄仁勋谈到了“数字人类”的工作场所。自4月以来，微软、OpenAI、Anthropic和谷歌都发布了面向AI智能体团队管理的新工具，其中许多工具明确标榜为具有真实人类灵活性和认知能力的数字同事。而在参与Wiles研究的1261名管理者中，近三分之一表示他们的公司已将AI智能体视为员工（其中23%甚至将其列入组织架构图）。 当然，Agentic AI的技术进步并非全是空谈。智能体——可以理解为被编程为循环工作直到达成目标的AI工具——在更复杂任务上的表现已有明显提升。但将这些工具称为同事或员工是一个巨大的跳跃，这样做会为AI设定不切实际的期望，同时让原本应该对它们负责的人类员工处境更糟。 部分原因在于，Wiles的研究表明，它颠倒了我·们对“谁在负责”的认知。当AI工具被定义为员工时，研究参与者会认为自己对其产出的责任更小。他们将有问题的作品上报给经理进一步审查的可能性也高出44%（从而否定了起初使用AI智能体节省时间的目的）。 这一点意义重大，远不止于办公室文化：随着AI智能体被嵌入医疗、战争、教育及政府领域，它们越来越可能成为一个方便的替罪羊——用来承担那些实际上是糟糕人类决策、激励和监督的产物（还记得伊朗一所女子学校遭炸弹袭击的事件被普遍归咎于Claude吗？而所有迹象都表明是一连串的人为错误）。 “AI智能体目前被宣传为可以替代人类的东西，我认为这根本就是一个失败的主张，”2024年诺贝尔奖得主、麻省理工学院经济学家Daron Acemoglu说，他研究AI对经济的影响。“它们应该被优化以增强人类的能力，而这并非它们目前所擅长的。” 那会是什么样子？看看斯坦福大学的一项新努力：研究人员向104个工作岗位的1500名员工提供了关于AI可以完成哪些任务的信息，然后询问他们哪些任务真正最有用、最高效。员工们*确实*在某些领域希望实现自动化——例如，法律助理认为AI可以帮助确保案件得到充分进展。但通常，技术专家认为最适合AI的任务——比如为销售代表验证客户信用评级——正是实际工作者表示他们绝对不希望或不需要智能体去做的事情。 这让我们回到了Alex身上。把Alex称为员工很容易——也很方便，尤其是出了问题的时候——但这只是一种品牌宣传。这并不会让工具更适合工作，而且正如Wiles的研究所示，它反而让周围的人类更不擅长自己的工作。请记住，*他们*才是拥有AI试图复制的自主性的那个群体。他们应该得到比Alex更好的待遇。

相似文章

AI智能体的进步速度远超大多数人预期

Reddit r/AI_Agents

本文讨论了AI智能体在过去一年中的快速进步，重点介绍了它们在多步骤工作流、工具使用、编程和现实世界集成方面能力的提升，标志着从演示到实用数字工作者的转变。