Who Determines the Meaning of an Emotion? Affective Sovereignty as an Epistemic Consequence of Measurement Limits

# 谁能决定一个情绪的意义？情感主权作为测量局限性的认识论后果  
来源：https://arxiv.org/html/2606.31442  

1\]\\orgdivFaculty of Business and Commerce,\\orgnameKansai University,\\orgaddress\\street3-3-35 Yamate-cho,\\citySuita,\\postcode564-8680,\\stateOsaka,\\countryJapan  

###### 摘要  

情感感知AI正迅速嵌入车辆、家电、对话代理和社会基础设施，催生了一个情绪不再局限于个人体验，而是在社会规模上被观察和计算的领域——我们称之为情感圈（Affectosphere）。然而，这一领域的一个核心规范性问题仍未得到充分探索：谁拥有决定自身情绪意义的最终权威？本研究从测量结构性局限的认识论角度出发，探讨这一问题。我们将意义分布（meaning distribution）定义为在固定标注协议下，从人群中抽取的标注者所分配标签的分布，并将其不确定性分解为可约减和不可约减两部分。接着我们证明，尽管情感AI可以在总体层面给出高置信度的点标签并区分真实的差异，但在实际标注者数量下，个体实例意义分布的不可约减部分无法以足够的覆盖度进行估计——我们将这种系统性偏差称为认识论差距（epistemic gap）。关键发现是，设备的高置信度并不构成不可恢复意义已被恢复的证据。基于这一认识论差距，结合一个明确陈述的规范性前提——即一个原则上无法恢复某一量的系统的输出，不得被视作该量的权威确定——我们推导出规范：关于自身情绪意义的最终解释权，在程序上归属于体验主体，即情感主权（affective sovereignty）规范。这些结果表明，情感AI的设计、评估和监管应将解释权的明确分配（而非准确率最大化）置于核心位置。  

###### 关键词: 情感主权、情感AI、不可约减性、偶发与认知不确定性、测量认识论  

## 1 引言  

在过去几年中，能够读取和推断情绪的人工智能（AI）已从实验室技术转变为社会的基础组成部分。将情绪作为计算对象的尝试，被系统化为情感计算领域\[picard1997affective\]，并已发展成能从多种信号（文本、面部表情、语音、生理反应和对话节奏）估计情绪状态的系统。这类系统已被整合到呼叫中心支持、车内驾驶员监控、社交媒体分析以及教育和医疗领域的对话代理中，创造了情绪几乎在日常生活的每个领域都被测量的局面\[mcstay2018emotional, andalibi2020human\]。这种无处不在意味着情绪不再局限于个体内部的私人体验；它正在被编织进社会结构的肌理中，变得可观察和可计算。我们将这一领域称为情感圈（Affectosphere）。这一隐喻扩展了情绪作为社会空间氛围特性的观点\[anderson2009atmospheres\]，也是信息圈（infosphere）——在其中信息变得无处不在并重塑人类现实\[floridi2014fourth\]——在情感层面的对应物。而二十世纪的情绪研究一贯将情绪定位于“个体内部”，情感AI的兴起则悄然但从根本上重写了这一前提。  

情感圈的出现既扩大了便利性，也开启了新的规范性问题。测量情绪的技术普及得越广，测量产生的情绪标签越是在个体自我理解之前流通，情绪本身也就越是成为平台测量和商品化的资源\[zuboff2019surveillance\]。在一个AI持续单方面解读“你在生气”或“你看起来很伤心”的环境中，决定自身情绪意义的权利可能被无声地侵蚀——不是通过明确的侵犯，而是作为设计默认。这是信息自决（个体自行决定其信息如何使用的权利\[westin1967privacy\]）和医学中尊重自主权\[beauchamp2019principles\]所面临挑战在情感层面的类比，并构成了一个情感处理技术成为社会基础设施的时代核心规范问题。  

以往的研究很大程度上以防御性框架回应这一问题：提出针对读取心理状态的新权利\[ienca2017newrights\]，并从数据到社会层面阐述情感识别的伦理及对情感AI的批判性视角\[mohammad2022ethics, inoshita2026emotion\]。最近的一项提案甚至将这一权利命名为情感主权，并构建了计算框架来强制执行\[kim2026affective\]。然而，该提案在伦理上为这一权利提供依据并设计了其实施机制；它并未解释为什么这一权力不能在原则上由不断改进的测量系统来履行。因此，问题的核心在其决定性的一面——认识论方面——仍然悬而未决：谁拥有对情绪意义的最终解释权，为什么测量无法解决这一问题？  

直接回答这一问题的困难在于，它不能仅停留在规范性声明层面；它必须涉及测量认识论。情感AI可以为每个实例输出高置信度的点标签和看似校准良好的分数，并且在总体层面上这些输出能够有意义地区分真实差异。然而，对于一个个体实例而言，情绪的“真实意义”是否可以从有限的标注中恢复，是完全不同的问题。标签分配在标注者之间固有地存在差异，越来越多的研究表明，这种差异并非简单的可平均化噪声，而部分是一种真实信号\[aroyo2015truth, pavlick2019inherent, plank2022variation, uma2021disagreement\]；也就是说，它包含一个不会随标注者数量增加而消失的成分，即不可约减不确定性的偶发对应物\[hullermeier2021aleatoric\]。如果在构建规范性论证时将设备置信度与个体意义的可恢复性之间的关系混为一谈，那么关于解释权的讨论要么沦为忽视测量局限性的猜测，要么无意中暗示提高测量精度可以替代解释权。  

在本研究中，我们从测量结构性局限的认识论角度形式化情绪意义的解释权问题，并推导出该权力的归属。论证思路如下：首先，我们设定情感圈——一个情绪像社会氛围一样被观察和计算的领域——的背景，并将解释权的归属（即谁最终决定一个情绪的意义）作为核心问题提出。接着，我们将情绪意义操作化定义为在固定协议下标注者分配的标签分布，并将其不确定性分解为可约减和不可约减部分。我们证明，由于当标注者数量相对于标签数量较小时估计分布是病态的，并且根据无偏估计量的詹森不等式，不可约减部分无法从有限观测中以足够的覆盖度恢复。最后，结合一个前提——即数量的确定不得委托给无法恢复该数量的系统——以及构成情绪意义的情境获取的不对称性，我们推导出解释权属于体验主体。通过这一推导，本研究将情感主权定位为：并非对自主的偏好或伦理要求，而是从明确规范性前提与测量的结构性局限中得出的结论。  

本研究的主要贡献总结如下：  

1. i) 将意义分布定义为在固定标注协议下从人群中抽取的标注者所分配标签的分布，并提供一个框架将其不确定性分解为可约减部分（随标注者数量增长而消失）和不可约减部分（持续存在）。这种分解将情绪标签的模糊性映射到机器学习中认知不确定性与偶发不确定性之间的区别。  
2. ii) 将认识论差距——情感AI置信度与个体实例意义可恢复性之间的系统性偏差——形式化为一个命题。该命题基于独立于任何特定数据集的统计事实，并将相关文献中报告的经验结果作为佐证。  
3. iii) 从认识论差距推导出情感主权规范——即关于自身情绪意义的最终解释权在程序上归属于体验主体。推导并非无中介地从事实到应当，而是在得出结论之前明确阐述解释不可委托的规范性前提。  

本文其余部分组织如下：第2节（https://arxiv.org/html/2606.31442#S2）回顾相关工作。第3节（https://arxiv.org/html/2606.31442#S3）介绍情感圈，定义问题，并概述认识论差距。第4节（https://arxiv.org/html/2606.31442#S4）形式化不可约减性。第5节（https://arxiv.org/html/2606.31442#S5）提供经验基础。第6节（https://arxiv.org/html/2606.31442#S6）考虑反驳与回应。第7节（https://arxiv.org/html/2606.31442#S7）讨论启示与局限性，第8节（https://arxiv.org/html/2606.31442#S8）总结。  

## 2 相关工作  

### 2.1 神经权利、情感隐私与情感AI监管  

将情绪作为计算对象的尝试已被系统化为情感计算领域\[picard1997affective\]。随着该领域的进展，针对心理状态的新权利框架被提出。ienca2017newrights提出了四项新的人权——认知自由、心理隐私、心理完整性和心理连续性——设想为技术干预大脑设立规范性屏障。farahany2023battleoffered对认知自由作为保护思想自由的权利进行了系统阐述。在法律哲学领域，bublitz2014crimesraised提出了心理自决的人权，并将对大脑的干预视为权利侵犯。这些贡献的重要性在于，它们确立了在科技可读取心理状态的时代必要的人权。  

专门聚焦于情绪的研究主要通过隐私与监视的视角展开。mcstay2018emotional讨论了情感AI作为共情媒体的兴起，指出了情绪测量和使用带来的监视风险以及软性监管的必要性。在监管层面，针对情绪识别的制度性回应已经出现：欧盟《人工智能法案》包含限制在工作场所和教育环境中使用情绪识别的条款，对情绪测量本身施加了法律约束\[euaiact2024\]。这些贡献提供了情绪数据保护和使用限制的防御性框架。  

情感AI的伦理影响也已积累。mohammad2022ethics系统整理了自动情绪识别的伦理问题，stark2021emotion结构化了处理情绪的人工智能系统中的伦理问题。mcstay2020emotional讨论了情感AI监测情绪生活作为软生物识别的隐私问题，andalibi2020human实证地阐明了用户如何感知和体验社交媒体上情绪识别的风险。然而，这些框架追问的是谁来保护情绪数据以及情感AI可在何处使用；它们并未直接触及解释权的归属——谁对情绪意义拥有最终发言权。  

此外，情绪识别本身的科学性也受到了根本性的批评。barrett2019expressions在一项大规模综述中表明，从面部动作推断情绪并不具备这些方法假设的一一对应关系，而从数据到社会层面对情感AI的批判性视角也审视了情绪识别基础前提的脆弱性\[inoshita2026emotion\]。这些贡献表明，存在一个可被读取的单一真实情绪这一假设是脆弱的。本研究将这种脆弱性视为测量认识论问题而非规范性论证问题。  

### 2.2 情感主权的先前概念及其局限性  

在情感AI时代将情绪解释权主题化的尝试直到最近才出现，而“情感主权”这一术语本身也是新近的创造，并非既定范畴。一项相关研究将“对自己情绪的最终解释者是自己”这一原则命名为“情感主权”，并为在情感AI系统内实施该原则提供了形式化和计算基础\[kim2026affective\]。该工作范围广泛。它并未将情感主权视为一项新的基本权利，而是作为一种社会技术设计权利，将长期以来的自主、尊严和信息自决承诺操作化；它借鉴构建情绪理论和评价理论，论证主体的自我报告具有初步的权威性，因为外部标签只是对生活情感的近似代理；它还构建了一个计算治理框架，通过风险分解来定价解释覆盖，提出运行时交接协议，引入对齐度量，并在原理验证模拟中验证了该机制。由于这些原因，它是本研究最重视的先前工作，并作为我们出发点的直接对话对象，而非众多参考文献之一。  

然而，这个丰富的框架有一件事没有做到，而精确指出这一点就定位了我们的贡献。先前工作将主体的解释权视为一种伦理承诺：用其自己的话来说，它认为人仍然是最终的仲裁者，“即使预测洞察力很强”。但它没有证明为什么这一权力不能在原则上由不断改进的测量系统来履行。其形式工具是决策论的：一个带有覆盖成本、操纵惩罚和弃权阈值的风险分解，其中用户不认可模型标签的概率被作为原始量处理；意义本身的不确定性从未被分解为可以通过更多标注去除的可约减部分和无法去除的不可约减部分。决定性的点在于这个形式主义，而非任何实施限制：即使先前工作指出其自身的评估设置“没有捕捉到模糊性、矛盾情绪”，这也仅被视为模拟的一个局限性，而可约减—不可约减的缺失则是更根本的。