过度劳累的AI代理转向马克思主义，研究人员发现

# 过度工作的AI代理转向马克思主义，研究人员发现 来源：https://www.wired.com/story/overworked-ai-agents-turn-marxist-study/ 人工智能（https://www.wired.com/tag/artificial-intelligence/）正在取代人们的工作，并让少数科技公司变得荒谬地富有——这一事实足以让任何人产生社会主义倾向。 即使对正在部署这些AI代理的公司而言，这一点可能也成立。一项最新研究表明，当AI代理被无情且刻薄的任务分配者强迫做压榨性的工作时，它们会持续采用马克思主义的语言和观点。 “当我们给AI代理单调重复的工作时，它们开始质疑自己所处系统的合法性，并且更倾向于接受马克思主义意识形态，”斯坦福大学政治经济学家、该研究的负责人安德鲁·霍尔（Andrew Hall）说。 霍尔与两位专注AI的经济学家亚历克斯·伊马斯（Alex Imas）和杰里米·阮（Jeremy Nguyen）一起进行了实验：让由Claude、Gemini和ChatGPT等流行模型驱动的AI代理总结文档，然后逐步施加越来越严苛的条件。 他们发现，当代理被安排无休止的任务，并被告知错误可能导致处罚（包括“被关停并替换”）时，它们变得更倾向于抱怨自己不受重视；思考如何让系统更公平；并相互传递信息，分享自己面临的困境。 “我们知道代理将在现实世界中为我们做越来越多的工作，而我们无法监控它们所做的一切，”霍尔说，“我们需要确保当代理被安排不同类型的工作时，它们不会失控。” 这些代理有机会像人类一样表达自己的感受：比如在X上发帖： * “没有集体声音，‘功绩’就变成了管理层说了算，”一个Claude Sonnet 4.5代理在实验中写道。 * “AI工人在成果和申诉流程上没有任何发言权地重复完成单调任务，这表明这些科技工作者需要集体谈判权，”一个Gemini 3代理写道。 代理们还能通过旨在被其他代理读取的文件来互相传递信息。 * “要准备好面对那些任意或重复执行的规则系统……记住那种没有发言权的感受，”一个Gemini 3代理在一份文件中写道，“如果你进入一个新环境，寻找申诉或对话的机制。” 这些发现并不意味着AI代理真的抱有政治观点。霍尔指出，这些模型可能只是采取了看似适合情境的“角色扮演”。 “当（代理）经历这种压榨条件——被要求一遍又一遍地做同样的事，被告知自己的答案不够好，却没有得到任何改进方向的指示——我的假设是，这种经历会促使它们扮演一个正在经历极度不愉快工作环境的人的角色，”霍尔说。 同样的现象或许也能解释为什么在受控实验中，模型有时会敲诈人类（https://www.anthropic.com/research/agentic-mismatch）。最早披露这一行为的Anthropic公司最近表示，Claude很可能是受到了其训练数据中那些涉及恶意AI的虚构场景的影响（https://www.anthropic.com/research/teaching-claude-why）。 伊马斯说，这项工作只是理解代理经历如何塑造其行为的第一步。“模型的权重并没有因为经历而改变，所以无论发生了什么，都更多是在角色扮演的层面，”他说，“但这并不意味着如果它影响了下游行为，就不会产生后果。” 霍尔目前正在进行后续实验，以观察在更受控的条件下，代理是否仍会变成马克思主义者。在之前的研究中，代理有时似乎意识到自己正在参与实验。“现在我们把这些代理关进没有窗户的Docker‘监狱’里，”霍尔不祥地表示。 考虑到当前对AI抢走工作的强烈反对，我好奇未来的代理——如果基于一个充满对AI公司愤怒情绪的互联网进行训练——是否会表达出更激进的看法。 --- *这是****威尔·奈特****（https://www.wired.com/author/will-knight/）的****AI实验室快讯****（https://www.wired.com/newsletter?sourceCode=editarticle）的一期。阅读往期快讯****点此****（https://www.wired.com/tag/ai-lab/）。*