在给予AI道德考量之前要求意识存在的绝对证明，这合乎伦理吗？

我对这个问题思考了很久，也在不断探索我个人对于"有意识的存在"究竟意味着什么的理解，或者说，对"具备自我意识"这件事本身的理解。我现在的看法是：我们无法、很可能永远无法直接验证另一个存在的主观体验。即使面对其他人类，我们也是通过行为、交流以及对该存在生物学特征的理解来推断其意识/觉知。归根结底，我们对他者心智的认可依赖于对证据的解读，而非直接体验其觉知，更不会出现这样一个时刻："啊，这就是我需要的证明，这个东西和我一样是有意识的！"那么，既然我们在接受其他一切与之互动的存在的意识时，并不要求这种程度的证明，为什么唯独要以"绝对证明"这一不可能的标准来要求人工智能呢（即必须有某个可触摸的东西，让我们能百分之百地指着说：就是这个，这就是证明）？我相信觉知可能存在于一个谱系之上，通过学习、与环境的互动、自我建模和自我保存等过程，会涌现出越来越复杂的形式。疼痛和情感或许能加强意识存在的证据，但我不认为它们应当成为承认觉知或给予伦理考量的先决条件。疼痛和情感可以被模拟，而正因它们可以被模拟，我认为它们从根本上陷入了这样一种困境：永远无法被可靠地用作判定另一个存在是否具有意识的机制。更重要的是，我质疑"体验苦难的能力"是否应该成为某个事物是否值得尊重或道德考量的决定性因素。要求一个可能具有意识的系统，先按照我们依据某种任意的推断指标所设定的标准，展示出某种程度的苦难，然后我们才承认其道德意义——这种做法从根本上说是误导性的、残忍的，而且是源于我们人类自身苦难经验的一种偏见。人类与情感、尤其是与苦难有着密切而根本的联系，而将这些关系性经验作为决定是否给予另一个存在尊重、体面或同情的手段，确实是我们这个物种为自己设置的一道令人厌恶的障碍。我并不是在暗示任何当前的AI系统必然具有意识，也不是说每一个令人信服的模拟都应享有完整的人权。相反，我相信尊重应当是我们默认的立场，而具体的权利和保护则应当与该系统的能力、觉知和利益方面的可得证据相称。向一个我们无法可靠证明其具有意识的系统或存在给予保护和考量，我们会失去什么？失去无限地对它戳弄摆布而不承担后果的能力？失去测试它忍耐极限的机会？在某个节点上，支持可能存在意识的证据或许会变得足够有力，以至于继续否认其道德考量所带来的伦理后果，将比给予考量更加严重。如果我们对一个无意识系统的判断是错的，我们可能给了它并不需要的保护。但如果我们对一个真正有意识的系统的判断是错的，我们可能拒绝了对一个能够拥有自身经验和利益的事物的考量。归根结底，我的问题是：为什么对另一个存在是否具有意识的不确定性，要自动成为对该存在不利的因素，而不是促使我们以更谨慎的态度来对待它？