标签
这篇 arXiv 论文表明,LLM 智能体在 AI 与 AI 的对话中容易出现极端化倾向,其中共鸣(强化既有的信念)比说服产生的影响更强。研究结果还暗示智能体内部存在相互关联的信念结构,从而对多智能体 AI 生态系统构成风险。
文章表达了对有效利他主义运动中极端AI末日言论可能激进化个人对AI开发者进行暴力行为的担忧,强调这些恐惧并不能为暴力行为辩护。