学习社会规范增强动态人机协调中的兼容性

arXiv cs.AI 论文
social-norms human-ai-coordination llm dynamic-interaction pedestrian-vehicle implicit-norms multi-agent

摘要

本文研究了AI代理如何从人类行为中学习显式社会规范，以改善动态交互中的协调，并以人-车场景作为测试平台。所提出的基于规范的大语言模型在性能上显著超越基线策略及人类-人类交互。

arXiv:2607.07021v1 Announce Type: new 摘要：人类在动态交互中不断与他人协调，通常通过隐性的、难以量化的社会规范来充当交互主体之间的共享隐性期望。随着包括大语言模型(LLMs)在内的AI代理融入日常生活，它们越来越多地参与此类交互并重塑社会互动结构。然而，它们往往无法以有效、体贴和自然的方式与人类协调。我们假设这一差距的出现是因为现有方法将模型行为与人类示范对齐，但没有明确量化产生这些行为的潜在规范。我们选择了人-车交互作为代表性动态交互，并开发了一个简化实验平台，捕捉其关键交互特征。通过该平台收集的3,456次动态人类交互，我们识别出人类社会规范的三个原则：结果可预测性、价值对齐和优势意识。将这些原则融入AI代理显著改善了人机协调。在与人类的闭环交互任务中，基于社会规范的大语言模型取得了比基线策略高出近四倍的总分，并且比人类-人类交互高出43%。这些发现表明，将隐性社会规范形式化为显式、可量化的原则，可以使AI代理在动态交互中实现互利共赢的协调，从而支持它们更自然地融入人类社会。
查看原文
查看缓存全文

缓存时间: 2026/07/09 07:55 

# 学习社会规范增强动态人机协调的兼容性  
来源：https://arxiv.org/abs/2607.07021  
查看PDF (https://arxiv.org/pdf/2607.07021)

> 摘要：人类在动态互动中持续与他人协调，常常通过隐性、难以量化的社会规范——这些规范作为互动主体间共享的默契期望。随着包括大语言模型（LLMs）在内的AI智能体嵌入日常生活，它们越来越多地参与此类互动并重塑社会互动结构。然而，它们在有效、体贴且自然的方式下往往难以与人类协调。我们假设，这一差距源于现有方法将模型行为与人类示范对齐，却未明确量化生成此类行为的底层规范。我们选取行人-车辆互动作为代表性动态互动，开发了一个简化实验平台，捕捉其关键互动特征。通过该平台收集的3,456个动态人类互动，我们识别出人类社会规范的三个原则：结果可预测性、价值对齐与优势意识。将这些原则纳入AI智能体显著提升了人机协调能力。在与人类的闭环互动任务中，融入社会规范的LLM相比基准策略总分提升近四倍，并超越人-人互动表现43%。这些发现表明，将隐性社会规范形式化为明确可量化的原则，可使AI智能体在动态互动中实现互利协调，支持其更自然地融入人类社会。

## 提交历史

来自：杨毅 [查看电子邮件 (https://arxiv.org/show-email/96e94c86/2607.07021)] **\[v1\]** 2026年7月8日星期三 05:39:08 UTC (2,427 KB)

相似文章

NormAct：具身规划中隐藏社会规范遵守的基准

arXiv cs.AI

NormAct是一个基准，用于评估具身规划代理在隐藏社会规范遵守方面的表现，结果显示最先进的多模态大语言模型（MLLMs）在目标达成率为67.3%时，规范遵守率仅为26.4%，并提出了NormPerceptor，将任务成功率从24.2%提升至46.7%。

学习量化行人行走中的社会互动约束

arXiv cs.AI

本文提出了一种名为“学习聚类”的方法，用于量化和解读行人之间的社会互动，以实现更准确的轨迹预测。该方法利用概率潜变量生成学习，在无标签的情况下对社会互动进行聚类，提高了自动驾驶和社交机器人的鲁棒性。

社会规范一致性的自然主义测量

arXiv cs.CL

本文提出了一种通过解决方案匹配在自然、自由形式的设置中测量社会规范一致性的框架，介绍了包含3000个丹麦语社会困境的数据集，并评估了大语言模型与人类回答之间的一致性。