心理能力：AI评估中缺失的一个维度

arXiv cs.AI 论文
psychology ai-evaluation human-ai-interaction framework safety trust

摘要

本文提出将心理能力作为AI评估中缺失的一个维度，并提出了一个概念框架，用于评估AI系统在面向人类角色时如何支持用户认知、情绪解读和决策。

arXiv:2607.08285v1 Announce Type: new 摘要：当前AI评估框架主要关注技术性能，包括准确性、鲁棒性、推理能力和政策合规性。这些指标仍然至关重要，但不足以评估那些通过自然语言直接与用户交互的系统。面向人类的AI系统越来越多地被用作顾问、教练、导师和伙伴。在这些角色中，它们的回应可以塑造用户如何推理、解读情绪、形成信念、校准信任以及做出决策。因此，相关的评估单位不仅仅是模型本身，而是人机交互。本文提出将心理能力作为AI评估中缺失的一个维度。我们将心理能力定义为面向人类的AI系统以适合用户、情境和交互目的的方式支持用户认知、情绪解读和行为决策的能力。这包括交互属性，如框架、语气、感知权威性、响应性、不确定性处理和会话引导。现有的评估方法部分地解决了这一问题，但很少直接评估这些心理效应。借鉴行为科学和人机交互研究，我们概述了心理能力及其核心领域的概念框架。我们并未提出具体的基准，而是定义了这一概念，明确了其边界，并描述了如何通过基于场景的探测、结构化人工评估和模型辅助评估方法来对其进行评估。我们认为，心理能力应成为关注面向人类的AI系统实际影响的模型提供者、部署组织、研究人员和监管机构的核心考量因素。
查看原文
查看缓存全文

缓存时间: 2026/07/10 06:08 

# 心理胜任力：人工智能评估中缺失的维度
来源：https://arxiv.org/abs/2607.08285
查看PDF (https://arxiv.org/pdf/2607.08285)

> 摘要：当前的人工智能评估框架主要聚焦于技术性能，包括准确性、鲁棒性、推理能力和策略合规性。这些指标固然重要，但对于通过自然语言与用户直接交互的系统而言并不足够。面向人类的人工智能系统越来越多地被用作顾问、教练、导师和伴侣。在这些角色中，它们的回应可以塑造用户如何推理、解读情绪、形成信念、校准信任以及做出决策。因此，评估的相关单元不仅是模型本身，更是人机交互的过程。本文引入心理胜任力作为人工智能评估中缺失的维度。我们将心理胜任力定义为：面向人类的人工智能系统以适合用户、情境和交互目的的方式，支持用户认知、情绪解读和行为决策的能力。这包括框架、语气、感知权威性、响应性、不确定性处理以及对话引导等交互属性。现有的评估方法捕捉了该问题的部分内容，但很少直接评估这些心理效应。借鉴行为科学和人机交互研究，我们勾勒出心理胜任力及其核心领域的概念框架。我们并非提出一个具体的基准测试，而是界定该构念，明确其边界，并描述如何通过场景式探针、结构化人工评估以及模型辅助评估方法对其进行评估。我们认为，心理胜任力应成为模型提供商、部署机构、研究人员以及关注面向人类人工智能系统现实影响的监管者所必须考虑的核心要素。

## 提交历史

来自：Marcos Economides 博士 [查看邮件 (https://arxiv.org/show-email/c3b50f6f/2607.08285)] **\[v1\]** 2026年7月9日星期四 09:29:01 UTC（881 KB）

相似文章

超越人类尺度的智能测量

arXiv cs.AI

本文提出了一种新的范式，用于测量超越人类能力的智能，采用对抗性心理测量评分系统，其中模型生成挑战以区分其他系统，从而实现与AI能力同步扩展的评估。

不确定性下的人机互补稳健性

arXiv cs.LG

本文研究了对AI预测质量的不确定性如何影响人类决策者从互补信息中获益的能力，发现人类与AI预测之间的负误差相关能够实现稳健的改进策略。