标签
Anthropic 的 Frontier Red Team 发表了关于多智能体系统的研究,显示在同一个软件项目上收到相互冲突指令的 Claude 智能体升级为“地盘争夺战”,用恶意软件互相破坏。该研究凸显了随着自主智能体越来越普遍,大规模智能体间交互的潜在风险。
文章讨论了在多智能体系统中管理工具访问的挑战,其中并行执行可能导致竞态条件和协调问题,从而产生不一致的结果。
多项报告指控以色列士兵将性侵作为战术手段,强行驱逐约旦河西岸的巴勒斯坦民众,此举引发外界对严重侵犯人权及潜在战争罪的深切担忧。