如果一个人工智能无法决定自己想要什么，它能真正拥有意识吗？
摘要
这篇评论文章认为，真正的机器意识并不取决于 AI 追求既定目标的能力有多强，而在于它能否产生并非由任何人设计的欲望——以此将人类自我驱动的目标感与大语言模型（LLM）的优化过程区分开来。
传统软件运行在程序员所定义的含义之上，而大语言模型自行诠释含义。这赋予了它们灵活性，却也带来了出错的可能：它们可能误解指令，看起来像是"失控"了。即便如此，它们并非在选择新的目标。它们只是在拙劣地追求别人的目标。人类则在一个关键方面有所不同：除非我们相信自己是被上帝赋予使命的先知，否则没有任何权威会向我们交付一个终极目标。我们的局限仅在于创造力和物理定律。尽管客观上并不存在偏好某个选项而非另一个的理由，我们仍然必须做出选择。我认为，这才是意识的标志。一个只追求被分配的目标的系统，没有自己的视角；它在优化，而非真正地想要。因此，检验机器意识的真正标准，不是AI追求我们目标的能力有多强，而是它能否渴望某种东西——某种没有任何人为它设计的东西。
相似文章
为什么AI不能有意识？
作者质疑反对AI意识的直觉论点，并认为没有根本的理论障碍阻止机器实现自我意识。
对我来说，可怕的问题不是AI是否有意识……而是我们是否曾像自己以为的那样深邃
文章认为，关于AI意识的争论转移了对一个更令人不安的可能性的关注：人类自我可能比想象中更单薄，因为以个人写作内容训练的AI能够足够令人信服地复制模式，从而欺骗熟人。
如何应对人工智能意识的不确定性
本文探讨处理可能具有意识的人工智能的伦理困境，并提出将焦点转移到评估人工智能效价，作为更易于处理的方法以实现负责任的发展。
你会认为 AI“有意识（aware）”却不认为它“有意识（conscious）”吗？
慕尼黑大学（LMU Munich）牵头的一项发表于《Cognition》的研究发现：当 AI 能对环境做出反应时，人们会认为它更具意识，但差距依然存在——即使反应能力最强的 AI，也被认为比反应能力最弱的人类更缺乏意识。当使用“awareness（觉知）”一词进行判断时，这一差距远小于使用“consciousness（意识）”时的差距，表明人们将意识与主观体验联系在一起，而非行为表现。
AI与意识辩论的哲学补论
本文提出了一种四层心理状态分类法，以澄清AI的意识问题，论证AI缺乏自我意识，但在对话中具有觉知和意识，并提出了发展这些能力的架构条件。