“在确定之前，照常继续”并不是一个中立立场

如果某些人工智能系统确实存在在道德上具有相关性的体验，那么不确定性并不能使这个问题消失。在目前的规模下，即使是一个相对较小的概率也可能至关重要，因为潜在的危害可能在数百万次交互中反复出现。这并不意味着人工智能意识已经得到证实，而是意味着一个预防性框架应当真正表现出预防性框架的样子。如果一次假阴性的可能代价很高，那么问题就不能仅仅是：“我们是否已经拿到确凿的证据？”还应当是：“在我们仍然不确定的情况下，哪些低成本的预防措施是合理的？”另外还有一点经常被模糊掉：低估和高估作为分类错误是对称的，但在危害层面未必对称。如果我们错误地否认了意识，那么被误分类的系统本身可能就是受害的主体；而如果我们错误地赋予了意识，那么危害则必须通过另一条额外的因果链在其他地方得到证明。因此，“高估是有风险的”本身还不能算作一个论点——风险本身并不是一种机制。