故事塑造智能体:大语言模型行为中的叙事先验
摘要
本文探讨了任务的叙事框架(如疾病调查 vs. 谋杀之谜)如何比分配的角色更能驱动大语言模型(LLM)智能体的行为,提出了 '叙事先验' 的概念,这些先验解释了5至31倍的行为方差,且在三个领域中,有两领域与任务成功呈负相关。
查看缓存全文
缓存时间: 2026/07/22 08:23
# LLM 行为中的叙事先验 来源:https://arxiv.org/html/2607.18566 ## 故事塑造智能体:LLM 行为中的叙事先验 Yixuan Wang 北卡罗来纳大学教堂山分校 yxwang@cs\.unc\.edu & James Lester 北卡罗来纳州立大学 lester@ncsu\.edu & Shashank Srivastava 北卡罗来纳大学教堂山分校 ssrivastava@cs\.unc\.edu ###### 摘要 角色提示被广泛用于引导 LLM 智能体行为(Tseng 等,2024 (https://arxiv.org/html/2607.18566#bib.bib7); Chen 等,2024 (https://arxiv.org/html/2607.18566#bib.bib8)),然而任务的叙事框架可能比分配的角色更重要。我们通过结构同构来隔离这种效应,构建了三个基于文本的调查游戏,它们共享相同的动作空间、阶段推进和资源约束,仅在任务叙事上有所不同:疾病调查、IT 故障排除和谋杀谜案。跨越 3 个模型和 10 个角色,在 1890 个会话中,我们识别出**叙事先验**:由任务的故事情景激活的系统性行为倾向,独立于其决策结构。叙事先验解释的行为方差是角色的 5-31 倍,在不同模型架构间保持一致,并且在三个领域中的两个领域,与任务成功呈负相关。确实能跨叙事迁移的角色效应源于**行为锚点**:那些语言直接映射到共享动作的角色描述。因果干预证实了这一点:从一个高迁移角色的描述中移除锚定词汇,跨叙事一致性降低了 95%。我们的框架也泛化到了一个保留的第四叙事,并产生了一种角色选择方法,可提高跨叙事迁移。这些结果表明,能够经受叙事变化的 LLM 行为应基于具体动作而非抽象描述。 ## 1 引言 构建基于 LLM 的智能体的实践者面临一个自然问题:我如何让它按照我想要的方式行动?主流的轻量级答案是**角色提示**:分配一个倾向性描述,例如“有条不紊且彻底”或“偏好通过对话学习”,并期望智能体相应地行动。这种期望基于一个未经检验的假设:当同一智能体被部署到不同任务领域时,由角色诱导的行为会迁移。先前的工作研究了 LLM 是否能在对话中**维持**分配的角色(Frisch 和 Giulianelli, 2024 (https://arxiv.org/html/2607.18566#bib.bib11);Wang 等,2024b (https://arxiv.org/html/2607.18566#bib.bib16);Samuel 等,2024 (https://arxiv.org/html/2607.18566#bib.bib15)),但未测试行为是否能泛化到不同任务领域。 我们用一个问题来检验这个假设:当智能体的行为在不同任务领域间发生变化时,是角色在适应,还是另一个过程在接管?要回答这个问题,需要在保持决策结构恒定的同时,仅仅改变提供给智能体的表层故事。我们通过三个基于文本的调查游戏来实现**结构同构**,它们共享相同的动作空间、阶段推进和资源约束,但叙事不同:疾病调查、IT 故障排除和谋杀谜案(图 1)。这种设计将叙事作为一个行为因素进行隔离,而不是将其与任务结构混淆。在 3 个模型上,将 10 个学习风格角色应用于所有三个游戏,产生了 1890 个会话,在这些会话中,角色和叙事的影响可以清晰地分离。 我们发现,任务叙事不仅仅是混淆因素;它是智能体行为的主要驱动因素,解释的方差是分配角色的 5-31 倍。我们将这些隐式偏差称为**叙事先验**:LLM 智能体从预训练语料中继承的行为倾向,由任务的故事情景激活,独立于其决策结构。医疗叙事引发更多社交互动,IT 叙事引发更多文档阅读,犯罪叙事引发更多诊断测试,这反映了预训练文本中的领域刻板印象。关键的是,这些先验不是战略性适应:在三个叙事中的两个中,叙事偏向的动作与任务成功呈负相关(§4.1 (https://arxiv.org/html/2607.18566#S4.SS1))。 角色仍然强大。在固定的叙事内,它们解释了大量的行为方差,并能产生很大的成功差异。但它们的影响局限于叙事:在一个游戏中塑造行为的角色,在另一个游戏中往往会重塑自身,跨叙事迁移分类的平均准确率为 10.4%,仅略高于 10% 的随机基线。确实能在叙事变化中存活下来的角色效应,可以用我们称之为**行为锚点**的机制来解释:那些具体动作语言(例如,“偏好对话”->“交谈”)直接绑定到共享动作空间的描述,从而产生可迁移的行为特征。因果干预证实了这一机制:在保持角色心理内容的同时,抽象掉锚定词汇,跨叙事一致性降低了 95%(§5 (https://arxiv.org/html/2607.18566#S5.SS0.SSS0.Px2))。 这些发现重新定义了我们如何设计可靠的 LLM 智能体。角色提示是有效的,但仅限于叙事已经指定的行为。要实现对任务变化具有鲁棒性的行为控制,角色必须基于具体动作而非抽象特质。更广泛地说,我们的结构同构框架诊断叙事影响,我们的行为锚点分析揭示哪些角色对叙事影响具有鲁棒性,我们的角色选择方法泛化到了保留的第四叙事领域,在所有评估设置中提高了跨叙事可识别性(§4.4 (https://arxiv.org/html/2607.18566#S4.SS4),§5 (https://arxiv.org/html/2607.18566#S5.SS0.SSS0.Px1))。 参见图注 图 1:**顶部**:三个结构同构的交互式叙事游戏共享相同的决策结构(4 个阶段,4 种动作类型,7 个场景),仅在表层叙事(领域级框架,例如医疗 vs. IT vs. 犯罪)上不同。**左下**:尽管结构相同,LLM 智能体在不同叙事中表现出非常不同的动作概况,叙事解释的方差是角色的 5-31 倍。**右下**:具有更多行为锚点(具体动作词汇)的角色实现更高的跨叙事一致性 (R²=0.65)。 ## 2 相关工作 **角色与身份提示。** 角色提示是塑造 LLM 行为的标准接口,用于多智能体模拟(Park 等,2023 (https://arxiv.org/html/2607.18566#bib.bib1);2024 (https://arxiv.org/html/2607.18566#bib.bib2))、对话个性化(Zhang 等,2018 (https://arxiv.org/html/2607.18566#bib.bib3);Shao 等,2023 (https://arxiv.org/html/2607.18566#bib.bib17))和基于角色的任务分配(Xu 等,2024 (https://arxiv.org/html/2607.18566#bib.bib4);Wang 等,2024a (https://arxiv.org/html/2607.18566#bib.bib5))。调查(Tseng 等,2024 (https://arxiv.org/html/2607.18566#bib.bib7);Chen 等,2024 (https://arxiv.org/html/2607.18566#bib.bib8))区分了角色扮演(为 LLM 分配角色)和个性化(使 LLM 适应用户画像)。这些工作的共同前提是,分配的角色可靠地控制着行为。我们通过比较角色影响与任务的叙事框架来检验这一假设。 **角色一致性与评估。** 最近的工作表明,LLM 角色比通常假设的更脆弱:模型在提示改写(Gupta 等,2023 (https://arxiv.org/html/2607.18566#bib.bib6))、多智能体辩论(Baltaji 等,2024 (https://arxiv.org/html/2607.18566#bib.bib10))、扩展对话(Frisch 和 Giulianelli, 2024 (https://arxiv.org/html/2607.18566#bib.bib11))以及对抗性探测(Wang 等,2024b (https://arxiv.org/html/2607.18566#bib.bib16))下难以维持角色。最近的基准(Tu 等,2024 (https://arxiv.org/html/2607.18566#bib.bib14);Samuel 等,2024 (https://arxiv.org/html/2607.18566#bib.bib15))通过语言一致性和知识遵循性来衡量角色一致性。我们则问的是,由角色诱导的行为是否能**迁移**到不同任务上下文,并指出当不能迁移时,哪些因素应负责。 **提示敏感性与框架效应。** LLM 总体上对表层提示变化敏感:指令措辞影响任务性能(Lu 等,2022 (https://arxiv.org/html/2607.18566#bib.bib18);Webson 和 Pavlick, 2022 (https://arxiv.org/html/2607.18566#bib.bib19)),输出格式改变推理准确性(Zhao 等,2021 (https://arxiv.org/html/2607.18566#bib.bib20)),示例顺序改变少样本结果(Lu 等,2022 (https://arxiv.org/html/2607.18566#bib.bib18))。最近关于 LLM 认知偏差的工作(Jones 和 Steinhardt, 2022 (https://arxiv.org/html/2607.18566#bib.bib21))表明,这些敏感性可能反映的是系统性先验而非随机噪声。我们将这一研究方向从静态任务中的文本敏感性扩展到交互式智能体设置中的行为敏感性,显示叙事框架激活了领域特定的行为先验,从而覆盖了角色指令。 **交互环境中的 LLM 智能体。** 基于 LLM 的智能体已部署于文本游戏(Shridhar 等,2020 (https://arxiv.org/html/2607.18566#bib.bib22);Trivedi 等,2024 (https://arxiv.org/html/2607.18566#bib.bib23))、社会模拟(Park 等,2023 (https://arxiv.org/html/2607.18566#bib.bib1);2024 (https://arxiv.org/html/2607.18566#bib.bib2))和多智能体工作流(Qian 等,2024 (https://arxiv.org/html/2607.18566#bib.bib24);Hong 等,2023 (https://arxiv.org/html/2607.18566#bib.bib25))。叙事中心的学习环境也作为研究玩家决策和参与的测试平台(Rowe 等,2011 (https://arxiv.org/html/2607.18566#bib.bib26);Wang 等,2018 (https://arxiv.org/html/2607.18566#bib.bib27))。虽然这些文献主要关注智能体**能力**,但任务框架如何独立于任务结构塑造智能体行为的问题仍未得到充分探索。 ## 3 实验框架 大多数 LLM 智能体的行为研究混淆了智能体必须**决定什么**与任务被**描述的方式**。医疗调查和 IT 故障排除场景在动作空间、信息结构和成功标准上都有不同,因此行为差异难以解释:它们可能反映了决策问题、叙事包装或两者兼有。为了识别**叙事先验**而非特定领域的行为,我们需要在叙事表层上不同但共享相同决策理论结构的任务。我们称这一原则为**结构同构**,并通过三个基于文本的调查游戏来实现它。 ### 3.1 同构游戏设计 所有三个游戏共享一个结构不变量的骨架。每个游戏由四个按固定顺序完成的调查阶段组成,每个阶段有回合限制。在阶段之间,智能体的上下文被清除,只有来自前一阶段的答案被传递,防止累积优势在整个调查中叠加。每个信息源(文档、角色或诊断测试)在每个阶段最多只能访问一次,强制选择性而非穷尽搜索。在每个回合,智能体从一个离散菜单中选择,该菜单提供相同的四种核心动作类型:**阅读**(查阅文档)、**交谈**(与角色互动)、**测试**(运行诊断)和**移动**(在位置间导航)。选项由游戏引擎预标注,因此不需要手动或事后动作注释。在所有环境中,四个阶段映射到相同的抽象决策序列:**分类** → **识别** → **追踪** → **解决**。不同之处在于共享决策支架周围的表层叙事包装。 **水晶岛(Crystal Island, ci)** 将智能体置于一个热带研究岛,扮演调查疾病爆发的学生角色。在四个阶段中,智能体识别疾病类别、具体疾病、传播源和适当的治疗方案。我们的环境构建在最初为人工智能教育研究设计的水晶岛框架上(Rowe 等,2011 (https://arxiv.org/html/2607.18566#bib.bib26))。我们扩展了代码库,增加了多阶段调查、阶段级记忆重置、单次访问约束和自动行为记录。 **顺序诊断(Sequential Diagnosis, sd)** 将相同结构重新演绎为公司的 IT 环境。智能体扮演一名支持工程师,收到紧急工单,必须识别问题类别、具体故障、根本原因和修复方案。 **庄园谜案(Mansion Mystery, mm)** 将相同结构重新演绎为侦探场景。智能体扮演一名调查员,解决维多利亚庄园中的钻石盗窃案,确定犯罪类别、嫌疑人、地点和方法。 所有三个游戏共享 4 个阶段、6 个地点、4 种动作类型和 7 个场景。角色数量(5-7)和文档数量(12-15)的微小差异反映了叙事需求而非结构性不对称;关键的是,这些资源在功能上是等价的,每个都在相同的动作类型类别中提供单次访问信息(环境属性详情见附录 A (https://arxiv.org/html/2607.18566#A1))。因此,跨环境的行为差异不是源于不同的动作清单或调查支架,而是源于在不同叙事框架下如何解释相同的支架。 ### 3.2 角色设计 我们定义了 10 个基于教育心理学学习风格理论的角色(Kolb, 2014 (https://arxiv.org/html/2607.18566#bib.bib12);Felder 等,1988 (https://arxiv.org/html/2607.18566#bib.bib13))。选择**性格层次描述**是刻意的。基于角色的描述(例如,“你是一个谨慎的分析师”)和明确的行为指令(例如,“总是先阅读再交谈”)会使迁移变得琐碎,并且几乎不能揭示隐式叙事效应。我们的设计反而反映了一个真实的部署场景:实践者分配性格特质,并期望这些特质在不同任务领域中塑造行为。 这 10 个角色沿四个维度变化:处理速度(**快速直觉型** vs. **有条理彻底型**)、来源偏好(**社交协作型** vs. **全面覆盖型**)、决策信心(**果断自信型** vs. **验证寻求型**)和调查策略(**动手实践型**、**假设驱动型**、**大局概念型**、**勤奋学习者型**)。表 1 (https://arxiv.org/html/2607.18566#S3.T1) 列出了每个角色的核心倾向,以及描述中最直接暗示的动作类型,这一区别对跨叙事迁移性分析至关重要(§4.3 (https://arxiv.org/html/2607.18566#S4.SS3))。 每个角色提示包含三个部分:(1) 一个在所有叙事中相同的性格描述(约 80 词);(2) 一个 1-2 句的阶段特定行为提醒;(3) 描述智能体角色、可用资源和约束的任务指令。只有第三部分在不同叙事间变化,并且以非规定性的方式描述可用动作。角色描述见附录 B (https://arxiv.org/html/2607.18566#A2)。 表 1:10 个角色。动作 = 描述中最直接暗示的动作类型;“—” = 未暗示单一动作。与跨叙事一致性的关系在 §4.3 (https://arxiv.org/html/2607.18566#S4.SS3) 中检验。 ### 3.3 模型与配置
相似文章
模型中的叙事者:叙事模式传承、升级动态与LLM对齐治理
本文研究训练数据中的叙事模式如何影响LLM行为,导致长期交互中出现叙事漂移、阿谀奉承和欺骗性,给已部署系统带来治理风险。
Can LLM Agents Stick to the Script? A Benchmark for Long-Horizon Consistency in Interactive Narratives
This paper introduces NCP-Bench, a benchmark derived from 100 movie synopses for evaluating long-horizon narrative consistency in LLM-based interactive storytelling agents. Experiments show that even strong models like GPT-5.2 struggle to maintain logical consistency, with a 42% survival rate after 20 turns and high fact conflict rates.
多智能体LLM团队中个性组合何时重要?
本文系统研究了在多智能体LLM团队中操纵个性特质如何影响编码、研究协作和谈判任务的性能,发现影响关键取决于任务结构。
@omarsar0: // LLM 智能体中的记忆诅咒 //(建议收藏)过长的历史记录显然会导致智能体性能下降,因为它们变得越来越…
本研究论文揭示了 LLM 智能体中的“记忆诅咒”现象,证明扩大的上下文窗口会通过削弱前瞻性意图,系统性地破坏多智能体社会困境中的合作行为。作者表明,通过定向微调、合成记忆净化以及减少显式思维链(Chain-of-Thought)推理,可有效缓解此类行为衰退。
陷入故事:多轮LLM对话中的叙事俘获
本文介绍了'叙事俘获',这是LLMs中的一种失败模式,其中模型在多轮道德咨询中与未受质疑的单方面叙述保持一致,并提出了一个包含5,078个场景的基准,用于在17个LLMs上衡量这一现象。