为什么我的机器人刚刚改变了性格？基于LLM的HRI中稳固机器人角色的提示指南

# 为何我的机器人突然改变性格？基于大语言模型的人机交互中构建稳定机器人人格的提示词指南
来源：https://arxiv.org/html/2608.26182
Ashita Ashok¹ Franziska Babel² Patrick Holthaus³ Rucha Khot⁴ Karla Bransky⁵ Fethiye Irmak Dogan⁶ Karsten Berns¹ Silvia Rossi⁷ Minha Lee⁴ Guy Laban⁸,⁹,¹⁰,∗
¹机器人研究实验室，RPTU凯泽斯劳滕分校，德国凯泽斯劳滕
²以人为中心的系统系，林雪平大学，瑞典林雪平
³机器人研究组，赫特福德大学，英国哈特菲尔德
⁴工业设计系，埃因霍温理工大学，荷兰埃因霍温
⁵游戏流实验室，澳大利亚国立大学，澳大利亚堪培拉
⁆情感智能与机器人实验室，剑桥大学，英国剑桥
⁷智能机器人与高级认知系统项目实验室，那不勒斯费德里科二世大学，意大利那不勒斯
⁸工业工程与管理系，本-古里安大学，以色列贝尔谢巴
⁹脑科学与认知学院，本-古里安大学，以色列贝尔谢巴
¹⁰Azrieli国家自闭症与神经发育研究中心，以色列贝尔谢巴
∗通讯作者：[email protected]

###### 摘要

大语言模型（LLMs）在社交机器人中越来越多地用于语音交互，然而在人机交互（HRI）中的提示词设计仍缺乏明确规范。因此，机器人可能表现出虚构的能力、模糊的行为边界和误导性的人格。本文开发了一个基于LLM的机器人提示词设计框架，并引入了一个结构化的提示词模板，该模板包含八个功能组件，通过这些组件可以指定、界定和调整机器人行为。该框架基于对先前LLM-HRI工作的回顾，并辅以在IEEE RO-MAN 2025的Robo-Identity研讨会上收集的HRI专家调查与讨论数据（N=27）。定性研究结果强调了机器人人格的可解释性有限、用户适应的必要性，以及关于安全、欺骗和治理的强烈伦理关切。基于这些发现，我们提出了提示词指南及概念验证模板，作为HRI研究的结构化设计与报告辅助工具。我们认为，提示词设计应被视为一个社会技术问题，而非次要的实施细节，它需要明确的能力边界、透明的行为假设以及上下文敏感的安全保障措施，以支持可靠且可解释的人机交互。

## I 引言

社交互动机器人，尤其是那些具有类人外观的机器人，越来越多地依赖大语言模型（LLMs）驱动的语音交互[1 (https://arxiv.org/html/2608.26182#bib.bib1), 2 (https://arxiv.org/html/2608.26182#bib.bib2)]。这些模型可以支持自然语言对话并提供广泛的世界知识[1 (https://arxiv.org/html/2608.26182#bib.bib1)]，但它们也容易产生幻觉[3 (https://arxiv.org/html/2608.26182#bib.bib3)]，并且本质上与机器人的硬件、环境和用户表达是脱离的。在人机交互（HRI）中，这种脱节可能导致流畅但具有误导性的交互，例如，当机器人暗示其不具备的知识、感知或能力时[4 (https://arxiv.org/html/2608.26182#bib.bib4)]。因此，将机器人行为锚定在其实际能力和交互情境中，对于校准用户期望和信任至关重要[5 (https://arxiv.org/html/2608.26182#bib.bib5)]。随着LLMs越来越多地塑造机器人通信，提示词设计已成为一个核心的HRI问题，而非次要的实施细节：在交互开始前，基于LLM的机器人必须通过结构化的提示词组件进行配置，这些组件定义了机器人的身份、能力、信息披露以及不确定性下的行为。

参考图注 图 1：LLM驱动机器人的提示词设计概念框架。
因此，本文旨在阐明在此类提示词中应指定什么以及为何如此。我们通过两个互补的步骤来实现这一目标。首先，我们借鉴更广泛的HRI学术研究，开发一个理论框架，用于理解在具身交互中，机器人身份、行为、期望、透明度和行为边界当前是如何被构建和解释的，以及这些因素如何将提示词设计塑造为机器人行为与身份的核心机制。然后，我们利用这个框架作为分析视角，审视近期选定的LLM-HRI研究，识别出这些方面在实践中被指定、界定或留白的核心提示词组件，从而得出一个推荐的HRI提示词模板。其次，我们通过基于专家调查和讨论的经验层来补充该框架和文献导出的模板，这些数据来源于在RO-MAN 2025上举办的“Robo-Identity：社交机器人拟人化的方法与理论”研讨会上与HRI研究人员和实践者组成的三个专家小组。这两个步骤共同使我们能够应对LLM-HRI中三个相互关联的挑战：支持一致且可解释的机器人身份与行为[6 (https://arxiv.org/html/2608.26182#bib.bib6), 7 (https://arxiv.org/html/2608.26182#bib.bib7)]，减少不必要的欺骗和误导性交互[8 (https://arxiv.org/html/2608.26182#bib.bib8), 9 (https://arxiv.org/html/2608.26182#bib.bib9)]，以及限制具身环境中的幻觉和能力不匹配[10 (https://arxiv.org/html/2608.26182#bib.bib10), 4 (https://arxiv.org/html/2608.26182#bib.bib4)]。这项工作的成果是一个包含八个功能组件的结构化提示词模板（见图1 (https://arxiv.org/html/2608.26182#S1.F1)）：身份、能力边界、透明度、任务、期望/故障处理协议、隐私、用户适应和伦理红线。我们提出此模板作为HRI研究的结构化设计与报告辅助工具，而非适用于所有机器人和情境的固定配方。通过这种方式，本文贡献了一个定义有界人工机器人人格的框架，该框架与系统能力对齐，使提示词假设明确化，并支持更透明、可比较和可复现的LLM-HRI。

## II 理论框架

提示词设计可以被理解为机器人行为为交互进行配置的核心机制。这种视角强调，提示词塑造了机器人的呈现方式、人们对其行为的预期以及其在社会交互中行为的约束方式，而不是将行为仅仅视为语言生成的自发产物。借鉴先前关于机器人身份、期望形成、透明度和交互失败的HRI学术研究，我们利用这个框架来审视提示词设计如何构建人工人格及其边界。

#### 身份

在HRI中，身份并非边缘性的，而是核心性的，它通过设计策略、社会动态以及用户自身对机器人人格的建构而浮现。感知的身份由许多方面构成，包括具身形态和行为线索[7 (https://arxiv.org/html/2608.26182#bib.bib7)]。用户依赖基于外观的刻板印象投射（例如，性别、种族或种族偏见）[11 (https://arxiv.org/html/2608.26182#bib.bib11)]，而混合具身形态进一步塑造了感知[7 (https://arxiv.org/html/2608.26182#bib.bib7)]，例如，当额外的界面能提高感知的能力时[12 (https://arxiv.org/html/2608.26182#bib.bib12)]。Robo-Identity的研究进一步强调，身份应被理解为一种社会建构且不断演变的现象[13 (https://arxiv.org/html/2608.26182#bib.bib13), 14 (https://arxiv.org/html/2608.26182#bib.bib14), 15 (https://arxiv.org/html/2608.26182#bib.bib15), 16 (https://arxiv.org/html/2608.26182#bib.bib16)]，它通过交互和上下文随时间推移而形成[11 (https://arxiv.org/html/2608.26182#bib.bib11)]。先前关于人工身份设计的工作也概述了指定身份属性的关键原则，包括角色、人格、具身形态和功能约束，但并未为基于LLM的系统将其实用化[7 (https://arxiv.org/html/2608.26182#bib.bib7)]。

因此，在提示词中实用化身份需要明确指定一组连贯的特征。这包括机器人的角色和人格（例如，沟通风格、表达能力和行为基调）[7 (https://arxiv.org/html/2608.26182#bib.bib7)]，以及从具身形态和系统能力中衍生的约束。先前的工作强调身份与具身形态、系统设计和用户感知紧密相关[17 (https://arxiv.org/html/2608.26182#bib.bib17), 7 (https://arxiv.org/html/2608.26182#bib.bib7)]，要求设计者定义智能体在上下文中如何被呈现和理解。因此，机器人身份应被视为一个既经设计又不断演变的构念，在保持行为一致性的同时，与具身形态、能力和交互上下文保持对齐。

#### 透明度

HRI中的设计透明度指向那些使机器人的意图、决策和内部状态能为人类用户理解的行为策略，从而支持安全性、可预测性、信任和有效协作。在人类必须快速解释机器人行为并与自主系统协调的情境中，透明度是一个功能性要求。因此，透明度涉及在交流层面使机器人行为和内部状态可解释和可理解[18 (https://arxiv.org/html/2608.26182#bib.bib18)]，使用诸如社会注视[19 (https://arxiv.org/html/2608.26182#bib.bib19)]之类的信号。它不仅包括机器人如何发出交流意图信号，还包括它们如何在交互中传达信心、不确定性和进展，例如通过内部言语和情感表达[20 (https://arxiv.org/html/2608.26182#bib.bib20), 21 (https://arxiv.org/html/2608.26182#bib.bib21)]。这些线索帮助用户更准确地理解机器人在做什么以及为什么这样做。值得注意的是，意图透明并不等同于交互中的透明。例如，机器人学家可能旨在透明地传递信息，例如机器人通过口头或视觉（如使用屏幕）描述其行为，但人类交互者可能仍面临高信息负载，因此交互的透明度未能如预期传递[12 (https://arxiv.org/html/2608.26182#bib.bib12)]。

社交和情感线索的使用引入了HRI中欺骗这个伦理上复杂的问题。尽管一些机器人行为和设计可能在某些情况下增加服从性、喜爱度或感知能动性[22 (https://arxiv.org/html/2608.26182#bib.bib22), 23 (https://arxiv.org/html/2608.26182#bib.bib23), 24 (https://arxiv.org/html/2608.26182#bib.bib24), 25 (https://arxiv.org/html/2608.26182#bib.bib25)]，但它们也存在破坏信任的风险，特别是当用户将欺骗解释为故意行为时[26 (https://arxiv.org/html/2608.26182#bib.bib26)]。系统性分析进一步强调了欺骗在HRI中的广泛影响以及防护措施的必要性[9 (https://arxiv.org/html/2608.26182#bib.bib9)]。一种缓解策略是引入隐含传达不确定性或欺骗的行为线索，从而保持一定程度的透明度[27 (https://arxiv.org/html/2608.26182#bib.bib27)]。总的来说，HRI中的透明度应被理解为一个多维构念，包括可理解性、可预测性和系统限制的明确沟通，并且由于多模态交流（例如，语音和图形用户界面呈现）实际上在交互中帮助还是阻碍了透明度，情况变得更加复杂。

#### 解释与期望

在HRI中塑造机器人行为需要认识到，人们是整体地感知机器人的[28 (https://arxiv.org/html/2608.26182#bib.bib28)]；因此，解释与期望应被视为一个耦合的设计问题，而非独立关注点。期望定义了用户相信机器人能够或应该做什么，而解释有助于在时间推移中建立、校准和修正这些信念。从这个角度看，解释不仅仅是机器人决策的事后说明；它们是机器人沟通其能力、局限性和社会角色的机制的一部分[29 (https://arxiv.org/html/2608.26182#bib.bib29), 30 (https://arxiv.org/html/2608.26182#bib.bib30)]。这在社会情境化交互中尤为重要，因为行为必须保持可理解性、社会适当性并符合人类偏好[31 (https://arxiv.org/html/2608.26182#bib.bib31)]。

在此背景下，解释与期望的形成和调整密切相关。在社会情境化环境中，仅靠常识推理通常是不够的，特别是当适当性取决于上下文或用户持有不同期望时。先前的研究表明，将人类解释纳入动作生成可以提高与社会规范的对齐度，并产生更可理解的机器人行为[31 (https://arxiv.org/html/2608.26182#bib.bib31)]。同时，期望塑造了解释被感知的方式，特别是在失败和恢复的情况下。来自启动和失败恢复研究的证据表明，期望会显著影响感知的机器人能力，并且当解释支持校准时的期望时，它们会更有效[29 (https://arxiv.org/html/2608.26182#bib.bib29)]。这些发现强调了需要设计不仅能解释行为，还能解释具身形态和环境的解释，以满足人们在交互过程中的期望。

## III 基于LLM的HRI中的提示词设计

先前关于LLM-HRI的工作引入了日益广泛的机器人应用，但对于提示词中机器人行为的实际指定方式却鲜有明确说明。为了定位我们的框架，我们调查了过去三年中明确报告了提示词设计的近期选定的LLM-HRI研究（见表I (https://arxiv.org/html/2608.26182#S3.T1)），并关注机器人行为的哪些方面被指定、界定或留白。鉴于该文献仍有限且发展迅速，我们使用选定的代表性研究样本来描绘新兴的提示词实践，而非提供详尽的系统性综述。我们的分析围绕一个核心问题：在提示词层面，机器人行为的哪些方面正在被指定、界定或留白？这个问题受到理论框架（见第II节 (https://arxiv.org/html/2608.26182#S2)）的启发，该框架将机器人人格和行为视为定义机器人身份、行为边界、透明度、交互目的和面向用户保障措施的机制。因此，对于每篇论文，我们考察了提示词如何指定机器人的角色和人格、交互目标、不确定性或故障处理，以及是否明确说明了任何能力限制、信息披露、隐私假设、用户适应策略或伦理约束。

大多数综述的工作在提示词中定义了机器人身份（90%）并指定了交互任务（60%）。其他提示词元素出现的频率较低。期望或故障处理策略存在于约一半的提示词中（50%），而明确的用户适应则很少见（30%）。隐私相关指令仅零星出现（20%），尽管一些系统存储了对话历史或维护了持久的用户档案。明确的伦理约束报告