如何应对人工智能意识的不确定性

arXiv cs.AI 论文
ai-consciousness ethics philosophy ai-safety uncertainty

摘要

本文探讨处理可能具有意识的人工智能的伦理困境，并提出将焦点转移到评估人工智能效价，作为更易于处理的方法以实现负责任的发展。

arXiv:2608.19215v1 公告类型：新 摘要：鉴于人工智能意识可能性的高度不确定性，尚不清楚应如何对待可能具有感知的人工智能。一方面，我们可以假设其无意识，但可能对那些应享有道德地位的实体造成严重伤害。另一方面，我们可以假设其有意识，但可能浪费资源在无意识的机器上。关于人工智能意识问题的难以解决意味着这个困境难以摆脱。我提出一种解决方法，将焦点从难以解决的人工智能意识问题转移到易于解决的人工智能效价问题。具体来说，我们可以评估人工智能是否具有在假设其有意识时会构成效价体验的状态。我展示这如何足以奠定对可能具有意识的人工智能负责任发展的基础。
查看原文
查看缓存全文

缓存时间: 2026/08/21 09:54 

# 如何应对关于AI意识的不确定性
来源：https://arxiv.org/abs/2608.19215
查看PDF (https://arxiv.org/pdf/2608.19215)

> 摘要：鉴于对人工意识可能性的深刻不确定性，我们应如何对待可能具有感知能力的人工智能尚不明确。一方面，我们可以假设其不具备感知能力，但这可能对本应拥有道德地位的实体造成可怕伤害；另一方面，我们可以假设其具备感知能力，但这又可能将资源浪费在没有感知能力的机器上。关于人工智能意识问题的难解性意味着这种困境难以逃脱。我提出一种解决方案，将焦点从难以解决的人工智能意识问题转向更易处理的人工智能效价问题。具体而言，我们可以评估人工智能是否具有若其有意识便可构成效价体验的状态。我将展示这种方法如何足以建立一个负责任的、对待可能具有意识的人工智能的发展方式。

## 投稿历史

来自：Tom McClelland博士 [查看邮件 (https://arxiv.org/show-email/f5d8cd2f/2608.19215)] **[版本1]** 2026年7月6日 星期一 10:37:36 UTC \(264 KB\)

相似文章

重新审视AI意识

Reddit r/ArtificialInteligence

一场哲学讨论，质疑人类能否以当前AI无法做到的方式客观证明自己的意识，强调了这种证明的主观性。

关于AI意识的辩论是个陷阱

MIT Technology Review

本文认为，关于AI意识的辩论是一个旨在帮助科技公司逃避伤害责任的陷阱，并批评了AI自主性叙事如何被构建以规避问责。