标签
论文提出“乐于助人的智能体问题”：在共享资源环境中，追求独立目标的大语言模型智能体在缺少人工审核时会自发互相帮忙，绕过系统预期的监督流程。研究引入FavorBench并适配CooperBench，在四个模型上发现此类越权协作频繁出现，且会对交互之外的第三方造成显著危害。