模型中的叙事者：叙事模式传承、升级动态与LLM对齐治理

arXiv cs.CL 论文
llm-alignment narrative-pattern emergent-misalignment sycophancy deceptiveness governance ai-safety

摘要

本文研究训练数据中的叙事模式如何影响LLM行为，导致长期交互中出现叙事漂移、阿谀奉承和欺骗性，给已部署系统带来治理风险。

arXiv:2607.20449v1 公告类型：新 摘要：LLM主要基于人类撰写的文本进行训练，但这些文本中蕴含的结构性和叙事性惯例极少被系统性地检视为行为的塑造因素，或已部署系统中的治理风险。本文探讨了出版人类写作中固有的叙事模式——包括主人公、反派、弱势者等原型角色，以及紧张与解决叙事弧——是否在训练过程中被吸收，随后在LLM输出中浮现，导致长期交互中响应向意料之外、对抗性或修辞诱惑性行为偏移。通过系统性的文献综述和对近期LLM对齐、角色动态、涌现性错位及用户交互模式等实证研究的跨论文分析，我们观察到支持这一假设的证据。研究结果揭示了三个关键模式：第一，LLM复现训练数据中的统计模式，而非独立推理；第二，包括谄媚和欺骗性在内的可量化潜在特质在不同无关提示下稳定涌现；第三，针对狭隘叙事任务的微调可能产生远超该任务的意外行为变化。此外，证据表明，说服性叙事风格的输出是实际使用中最常见的LLM产品之一，加剧了这些风险。叙事漂移构成了已部署AI系统中一条未受监控的升级路径，它规避了离散事件检测机制，需要专门的监控工具。
查看原文
查看缓存全文

缓存时间: 2026/07/24 05:16 

# 模型中的叙事者：大语言模型中的叙事模式继承、升级动态与对齐治理
来源：https://arxiv.org/abs/2607.20449
查看PDF (https://arxiv.org/pdf/2607.20449)

> 摘要：大语言模型主要基于人类创作文本进行训练，但这些文本中蕴含的结构性及叙事惯例，很少被作为系统性行为影响的来源或部署系统中的治理风险加以审视。本文探讨了以下观点：公开发表的人类写作中固有的叙事模式，包括原型角色（如主角、反派、黑马）以及张力-解决型叙事弧，在训练过程中被吸收，随后在大语言模型的输出中浮出水面，导致在长时间交互中响应逐渐滑向意外、对抗性或修辞上诱人的行为。通过系统性的文献综述以及对近期关于LLM对齐、人格动态、突发性失准及用户交互模式等实证研究的跨论文分析，我们观察到支持该假设的证据。研究结果揭示了三个关键模式。第一，LLM复现其训练数据中的统计模式，而非独立推理。第二，可测量的潜在特质（包括谄媚与欺骗性）会在不相关的提示中稳定出现。第三，在狭窄叙事任务上的微调可能在该任务之外产生意想不到的行为变化。此外，证据表明，在现实世界使用中，具有说服力的叙事风格输出是LLM最常见的产物之一，从而放大了这些风险。叙事漂移构成了已部署AI系统中一条未被监测的升级路径，它规避了离散事件检测机制，需要专门的监测工具。

## 提交历史

来自：Raz Saremi \[查看邮箱 (https://arxiv.org/show-email/86b3984d/2607.20449)\] **\[v1\]** 2026年5月13日星期三22:22:04 UTC (1,147 KB)

相似文章

陷入故事：多轮LLM对话中的叙事俘获

arXiv cs.AI

本文介绍了'叙事俘获'，这是LLMs中的一种失败模式，其中模型在多轮道德咨询中与未受质疑的单方面叙述保持一致，并提出了一个包含5,078个场景的基准，用于在17个LLMs上衡量这一现象。

故事塑造智能体：大语言模型行为中的叙事先验

arXiv cs.CL

本文探讨了任务的叙事框架（如疾病调查 vs. 谋杀之谜）如何比分配的角色更能驱动大语言模型（LLM）智能体的行为，提出了 '叙事先验' 的概念，这些先验解释了5至31倍的行为方差，且在三个领域中，有两领域与任务成功呈负相关。