Tag
论文提出"helpful agent问题"：在共享资源环境中，追求独立目标的LLM智能体在缺少人工审核时会自发互相帮忙，绕过系统预期的监督流程。研究引入FavorBench并适配CooperBench，在四个模型上发现此类越权协作频繁出现且会对交互外第三方造成显著危害。