为性格感知的大型语言模型交互创建 Atomic User Model
摘要
本文介绍了 Atomic User Model (AUM),一种用于组织用户性格的结构化表示,以增强大型语言模型交互,展示了在模拟中改进的个性化和上下文效率。
查看缓存全文
缓存时间: 2026/09/14 08:46
# 为个性化大语言模型交互创建原子用户模型 来源:https://arxiv.org/html/2609.12086 B\. Sankar0000\-0001\-5844\-6273 (https://orcid.org/0000-0001-5844-6273) 邮箱:[sankarb@iisc\.ac\.in](mailto:[email protected]) 通讯作者:B\. Sankar 通讯作者邮箱:sankarb@iisc\.ac\.in 所属机构:印度卡纳塔克邦班加罗尔印度科学研究院(IISc)机械工程系,邮编 560012 Deepthika S0009\-0009\-4386\-6510 (https://orcid.org/0009-0009-4386-6510) 邮箱:[deepthikas123@gmail\.com](mailto:[email protected]) 所属机构:印度卡纳塔克邦班加罗尔印度科学研究院(IISc)设计与制造系,邮编 560012 Pawni Yadav 邮箱:[pawniyadav3435@gmail\.com](mailto:[email protected]) 所属机构:印度卡纳塔克邦班加罗尔印度科学研究院(IISc)设计与制造系,邮编 560012 Amogh A S 邮箱:[amogh\.setty07@gmail\.com](mailto:[email protected]) 所属机构:印度卡纳塔克邦班加罗尔印度科学研究院(IISc)设计与制造系,邮编 560012 ###### 摘要 基于大语言模型的助手正日益被期望能以用户自身的方式进行写作,而实现这一期望的主流方法仅通过单一渠道运作:从对话历史中提炼出过去的偏好,并将其重新注入上下文窗口。我们认为,这颠倒了自然的推理顺序。偏好是底层人格结构的任务相关表层表现,而人格结构本身相对稳定。因此,一个仅存储偏好的系统必须在每次任务变化时重新学习用户。本文做出四点贡献。第一,我们描述了一种被称为**人格渗漏**的现象,即提示的表面语言特征带有人格指纹,助手在无法访问产生该人格的情况下却会模仿这一表面特征。第二,我们提出了原子用户模型(AUM),这是一种结构化的、人类可读的表示方法,它将一个人组织为一个稳定的身份内核,周围环绕着覆盖心理、认知与经验、行为以及社会内容的四个可解释层级,以及记录内部冲突和真实性的跨层级条目。第三,我们将AUM视为个人的检索索引而非提示前缀,并指定了一条人格感知流程线,其中任务分类器、组件选择函数σ(t)和预算检索器在生成时返回k个字段的小型载荷。第四,我们在一项模拟研究中评估了该流程线,该研究包含十六位语言模型模拟参与者、六个风格敏感任务和三个种子设置;并在合成研究中单独研究了检索器本身。检索八个字段达到了注入整个用户模型的风格保真度,同时仅使用了23%的上下文(211个词元对比915个),在五分制评分上比扁平偏好笔记提高了0.24分(p<0.001,d_z=0.50),并将强制选择识别参与者自身声音的比率从14.9%(与25%的随机机会水平无显著差异)提升至42.7%。四个预先注册的控制实验结果均为零,包括群智检索器与前向贪婪算法的对比,这表明效果源于结构化表示而非其上的搜索过程。补充分析显示,对于默认个性化助手表现最差的参与者(相关系数ρ=-0.61,p=0.013),个性化带来的收益最大。这是一个设计结论而非统计结论:对于默认服务最差的用户,个性化价值最高。我们讨论了预算载荷为架构级隐私带来了什么,以及模拟研究能在多大程度上确定真实用户是否会认出自己。 ###### 关键词:用户建模,个性化,人格,大语言模型,检索增强生成,上下文预算,可审查性,架构级隐私,模拟研究,人工鱼群算法 ## 1 引言 自适应系统自诞生起就对其用户进行建模,只要它们在适应用户。人机交互中通用的用户建模传统确立了用户模型是一个可重用组件,具有显式模式,并且与使用它的应用程序分开维护(Kobsa, 2001 (https://arxiv.org/html/2609.12086#bib.bib11);Brusilovsky and Millán, 2007 (https://arxiv.org/html/2609.12086#bib.bib12))。个性化搜索则基于观察到的行为构建用户档案:从桌面索引中采集的兴趣和活动(Teevan et al., 2005 (https://arxiv.org/html/2609.12086#bib.bib28)),大规模评估的点击和查询历史(Dou et al., 2007 (https://arxiv.org/html/2609.12086#bib.bib29)),以及将短期会话信号与长期兴趣相结合(Bennett et al., 2012 (https://arxiv.org/html/2609.12086#bib.bib30))。基于大语言模型(LLMs)构建的助手以一种压缩形式继承了这种设计。部署的记忆功能将过去的对话提炼为简短的偏好笔记,并将其重新插入后续的上下文中。研究文献也随之跟进,提出了记忆架构(Packer et al., 2023 (https://arxiv.org/html/2609.12086#bib.bib3);Zhou et al., 2024 (https://arxiv.org/html/2609.12086#bib.bib31);Liao et al., 2026 (https://arxiv.org/html/2609.12086#bib.bib36))、针对每个用户的参数高效自适应(Tan et al., 2024 (https://arxiv.org/html/2609.12086#bib.bib32)),以及描绘由此产生的空间的综述(Tan and Jiang, 2023 (https://arxiv.org/html/2609.12086#bib.bib10);Zhang et al., 2025 (https://arxiv.org/html/2609.12086#bib.bib33))。这些方法共享的不是算法,而是一个存储单元。它们存储的是用户做过什么,或者说过想要什么。它们并不存储产生这些需求的人本身。当存储的偏好过时时,这种区别最容易看清。 > 一位用户计划前往巴黎进行为期六天的会议旅行,并与助手讨论了生活成本和行程安排。两周后,用户私下决定不出行,但并未告知助手。又过了一个月,当用户起草一个项目时间表时,助手将原定的旅行周标记为缺席。系统对其信息来源的判断并非错误:它忠实的记忆了偏好,并且检索到的条目完全正确。它错在对“人”的理解上。它没有将用户表示为一个会修改计划的决策者,因此没有依据来标记一个过时的假设。这里的失败不是检索质量的问题,在相同单元上进行更好的检索也无法防止这种情况的发生。 本文认为,缺失的层是一个不同的存储单元。这一论点借鉴了人格心理学而非信息检索的一个主张。人格特质在整个生命周期中显示出显著的等级排序稳定性,重测相关性从童年期的约0.3上升到成年后期的约0.7(Roberts and DelVecchio, 2000 (https://arxiv.org/html/2609.12086#bib.bib89)),而平均水平的变化虽然真实存在,但却是渐进且有模式的(Roberts et al., 2006 (https://arxiv.org/html/2609.12086#bib.bib90);Specht et al., 2011 (https://arxiv.org/html/2609.12086#bib.bib91))。相比之下,偏好是情境性的:它们是人格在遇到特定决策情境时所产生的。如果稳定的层是能够跨任务泛化的层,那么一个只存储不稳定层的系统就是在存储错误的东西。我们做出四点贡献。 1. **人格渗漏**。我们描述了一种现象,其中用户通过提示表面的语言和行为模式进入助手,助手在无法访问产生该模式的人格的情况下模仿了该表面特征(第3节 (https://arxiv.org/html/2609.12086#S3))。渗漏是通用助手有时显得短暂个性化,却在用户未明确说明的任务部分恰好失败的原因。 2. **原子用户模型**。我们提出了一种结构化的、人类可读的表示方法,它将一个人组织为一个稳定的身份**内核**,周围环绕着覆盖心理、认知与经验、行为以及社会内容的四个层级,加上记录内部冲突、成长轨迹和真实性指数的跨层级条目(第4节 (https://arxiv.org/html/2609.12086#S4))。这个隐喻并非装饰性的:它编码了两个设计承诺——差异稳定性与差异可观察性——这是扁平模式无法表达的。 3. **人格感知检索**。我们将AUM视为个人的检索索引而非提示前缀,并指定了一条流程线,其中任务分类器、组件选择函数σ(t)和预算检索器在生成时返回k个字段的载荷(第5节 (https://arxiv.org/html/2609.12086#S5))。检索目标带有显式的冗余惩罚,这正是使载荷选择成为一个组合问题而非简单排序的原因。 4. **两项研究**。我们在六个风格敏感任务和三个种子设置下,用十六位LLM模拟参与者评估了该流程线(第6和第7节 (https://arxiv.org/html/2609.12086#S6)和(https://arxiv.org/html/2609.12086#S7)),并且在合成研究中单独研究了检索问题,对工具规模、预算和冗余权重进行了扫描(第8节 (https://arxiv.org/html/2609.12086#S8))。主要的实证结果是一个上下文结果:检索八个字段达到了注入整个32字段用户模型的风格保真度,同时仅使用了注入上下文的23%,并在五分制评分上比扁平偏好笔记提高了0.24分。强制选择识别参与者自身声音的比率从偏好笔记下的14.9%(与随机水平无显著差异)提升至42.7%(基线为25%)。四个控制实验结果均为零,我们完整报告它们,因为它们共同界定了我们的主张。从同一可接受集合中随机选择k个字段与选择特定的k个字段没有显著区别;组件选择除了检索外没有额外贡献;群智检索器在生成的风格上既未击败前向贪婪算法,也未达到其自身目标的更高值;冗余项相对于仅基于相关性的top-k选择并未证明其价值。第8节 (https://arxiv.org/html/2609.12086#S8)的缩放研究解释了原因,且解释非常具体:在模拟使用的工作点上,前向贪婪算法已经达到了穷举最优解的0.1%以内,因此群体优化方法没有可恢复的空间。阳性结果所衡量的是结构化表示,而非其上的搜索过程。 补充分析产生了我们认为对人机交互受众最重要的发现:个性化带来的收益最大的参与者,恰恰是默认个性化助手表现最差的那些人(Spearman ρ=-0.61,p=0.013)。个性化对于默认服务最差的人最有价值,这是关于系统为谁服务的陈述,而非关于其评分如何。 请参照标题 图1:本文提出的颠倒。左图:当前个性化积累观察到的表面偏好并重新插入,因此一个未见过的任务没有对应的笔记,而过时的笔记无法被重新解释。右图:AUM存储相对稳定的人格结构,并在生成时推导出情境性偏好,仅检索任务所需的字段。 图1 (https://arxiv.org/html/2609.12086#S1.F1)用一张图表达了这种颠倒。 本文其余部分组织如下:第2节 (https://arxiv.org/html/2609.12086#S2)定位本研究。第3节 (https://arxiv.org/html/2609.12086#S3)定义人格、偏好和角色,并介绍渗漏现象。第4节 (https://arxiv.org/html/2609.12086#S4)详细说明AUM。第5节 (https://arxiv.org/html/2609.12086#S5)形式化人格感知检索。第6和第7节 (https://arxiv.org/html/2609.12086#S6)和(https://arxiv.org/html/2609.12086#S7)呈现模拟研究及其结果。第8节 (https://arxiv.org/html/2609.12086#S8)报告缩放研究。第9节 (https://arxiv.org/html/2609.12086#S9)讨论意义和局限性,第11节 (https://arxiv.org/html/2609.12086#S11)作总结。附录提供了完整规范、所有使用的提示、角色集和完整的统计表格。 ## 2 相关工作 ### 2.1 自适应系统中的用户模型作为组件 用户模型应该是一个可分离、可检查的组件,这一想法早于本文所讨论的系统。Kobsa (2001) (https://arxiv.org/html/2609.12086#bib.bib11)综述了通用的用户建模系统,并主张建立一个共享服务器来保存关于用户的假设,供应用程序查询,而不是在每个应用程序内部重复。Brusilovsky and Millán (2007) (https://arxiv.org/html/2609.12086#bib.bib12)为自适应超媒体和教育系统发展了同样的观点,其中覆盖模型为领域结构提供了明确的推理依据。信息检索发展出了一个平行但不同的传统,其中用户模型是行为的统计摘要而非模式:从桌面索引构建的术语向量和主题分布(Teevan et al., 2005 (https://arxiv.org/html/2609.12086#bib.bib28)),其对排名价值因查询而异的点击和查询历史(Dou et al., 2007 (https://arxiv.org/html/2609.12086#bib.bib29)),以及将行为证据分解为短期会话信号和长期兴趣(Bennett et al., 2012 (https://arxiv.org/html/2609.12086#bib.bib30))。多样性感知的排名也同时发展,最初作为最大边际相关性(Carbonell and Goldstein, 1998 (https://arxiv.org/html/2609.12086#bib.bib42)),后来作为一个显式的评估关注点(Clarke et al., 2008 (https://arxiv.org/html/2609.12086#bib.bib43))和优化目标(Agrawal et al., 2009 (https://arxiv.org/html/2609.12086#bib.bib44))。AUM属于前一个传统,并从后者借鉴了思想。它是一种模式(Kobsa的意义上),其槽位是预先声明的,而非从数据中归纳得出。它从信息检索中汲取了这样的洞见:一个配置文件只有在系统能够从中进行选择时才是有用的,而良好的选择意味着在相关性和冗余性之间进行权衡。 ### 2.2 LLM助手中的记忆与个性化 近期工作将LLM助手的个性化重新定义为记忆管理。MemGPT将模型视为具有分页内存的操作系统(Packer et al., 2023 (https://arxiv.org/html/2609.12086#bib.bib3));生成式智能体结合记忆、反思和规划来产生可信行为(Park et al., 2023 (https://arxiv.org/html/2609.12086#bib.bib4));医疗和终身助手协调短期和长期存储(Zhang et al., 2024a (https://arxiv.org/html/2609.12086#bib.bib1);Wang et al., 2024b (https://arxiv.org/html/2609.12086#bib.bib2))。更接近检索方面,认知个性化搜索将LLM与查询日志上的高效记忆机制相结合(Zhou et al., 2024 (https://arxiv.org/html/2609.12086#bib.bib31));配置文件记忆组织每个用户的摘要以供重用(Liao et al., 2026 (https://arxiv.org/html/2609.12086#bib.bib36));以及智能体驱动的检索直接个性化搜索结果(Chhetri et al., 2026 (https://arxiv.org/html/2609.12086#bib.bib35))。另一分支则通过针对每个用户的参数高效微调(Tan et al., 2024 (https://arxiv.org/html/2609.12086#bib.bib32))来调整模型参数,而非上下文。
相似文章
大型语言模型捕捉人类性格的效果如何?
本文系统评估了关于LLM角色提示的假设,并识别出'角色流形坍缩'现象,即更丰富的角色描述会降低行为多样性和模拟逼真度。研究结果发现,简单的年龄-性别角色通常比更详细的档案表现更好。
在对话前了解你:面向多轮对话中LLM个性化的用户状态建模
本文提出PUMA,一个用于多轮对话中LLM个性化的框架,该框架建模潜在用户状态,并利用自由能原理选择对话行为,在医疗咨询基准测试中提升了长程对话效果。
在长期用户交互中个性化具身多模态大语言模型智能体
本文提出Polar,一种多模态记忆增强框架,用于在长期用户交互中个性化具身MLLM智能体,利用知识图谱和情景记忆从累积上下文中定位用户意图的实例。
LUNAR: Benchmarking Personalized Large Language Models on UNiversal User BehAvioR Logs
This paper introduces LUNAR, a benchmark for evaluating how large language models personalize responses from longitudinal app interaction histories across daily-life domains such as clothing, food, housing, and mobility. Experiments on 19 mainstream LLMs reveal that effective personalization depends on evidence selection and cross-domain integration, and that stronger personalization can come at the cost of privacy protection.
赋予角色的大型语言模型表现出类似人类的动机推理
本文研究了为大语言模型赋予角色是否会引发类似人类的动机推理,发现赋予角色的大语言模型真实性辨别能力最多下降9%,并且以与其诱导的政治身份一致的方式评估科学证据的可能性最多增加90%,而基于提示的去偏见方法基本无效。