标签
该论文介绍了 PersonaChatBench,这是一个评估框架,通过将固定任务与由私密角色卡引导的多样化模拟用户配对,在六个领域中评估 20 个语言模型,衡量任务结果、角色需求满足程度以及模拟器保真度。结果表明,出色的任务表现并不总能转化为对个体用户需求的满足,各模型的优势也因角色和领域而异。
PersonaScienceBench 推出了一项涵盖四个科学领域、共 200 项任务的基准,用于评估 AI 智能体如何与具有不同角色特征的模拟研究人员协作,同时衡量交互质量和任务完成情况。
论文提出 PersonaCUABench,通过 74 个任务和 44 个不同用户画像来评估计算机使用代理(CUA)。研究发现,与原始指令相比,任务完成率平均下降 36%,表明 CUA 在满足真实用户的个性化需求和约束方面仍存在显著不足。
论文提出 MetaPersona 框架与 MetaPersona-DB 数据集(涵盖 11,000+ 篇实证社会科学研究),通过检索任务相关证据、构建基于文献的 persona 依赖图,并从经验先验中采样生成合成人群,从而解决 LLM 社会模拟中的 persona 冷启动问题。作者在三个下游任务上验证了其有效性,并提供 MetaPersona-Studio 交互原型。
一篇arXiv论文利用2013年价值观调查模块(VSM 2013),对TypeSafe的JEV仅决策模型进行了审计,涵盖沙特与美国人格设定以及英语、阿拉伯语两种语言。研究发现,模型的回答高度可重复,但会随人格设定和语言的不同而变化:在英语中能复现87%的人类沙特–美国文化差距,而在阿拉伯语中仅能复现62%。
本研究调查了具有人格角色的大语言模型如何表现出对情绪劳动策略的偏好,发现模型更倾向于深度表演,且如尽责性和情绪稳定性等个性特征可以预测这种偏好。
本文提出了一种方法,利用大型语言模型自动生成多样化的用户角色,用于测试面试对话系统,以减少人工努力并增加模拟用户行为的多样性。
一篇分析文章,讨论为什么LLM系统中的人设深度无法提高输出多样性,以及如何通过隔离具有广泛人设的读者来获得更好的收敛证据。
Praxis 是一个开源CLI,用于创建包含角色、技能和编排器的AI开发工作流。它会为 Claude Code 和 Cursor 等工具生成配置文件,旨在从产品目标出发启动开发,而非直接编码。
深入探讨语音代理的红队测试,强调音频作为攻击面、多轮测试的必要性,以及用于上线前安全的实用基线方法论(1,200通通话)。
一个使用角色(bug猎手、守护者、清扫者)的小型DIY审查团队在50个PR的基准测试中取得了比Cursor Bugbot和CodeRabbit更高的性能,证明了基于角色的审查策略的有效性。
本文考察了人格提示如何影响大语言模型智能体在重复‘分或偷’游戏中的策略行为,发现双方均选择‘分’的结果占主导,并且模型选择与人格类型显著影响合作与剥削行为。
一个名为meeting-room的Codex Skill,提供了260个独立人格的多专家会议功能,能将问题转化为多角度专业分析决策。
一位AI研究人员在多智能体编码系统上进行了13次对照实验,发现依赖排序的协调显著提高了成功率,而角色背景故事没有带来可衡量的益处。
使用Qwen 0.6B为Nemotron-Personas数据集预计算的嵌入向量,通过网页演示实现对合成角色进行语义搜索和聚类。
本范围综述分析了81篇(2022-2025年)关于使用生成式AI创建和评估用户画像的文章,指出了其在可重复性方面的优势,但同时也揭示了关键问题:45%的研究缺乏评估,86%过度依赖GPT模型,以及存在同一模型既生成又评估画像的循环风险。