@gmkurtzer：哇，我一觉醒来发现竟有这么多恼火的人，显然他们不理解 LLM 的工作原理，而且对我的指正无法接受……

哇。我一觉醒来，发现有相当多人生气了，他们显然不理解 LLM 是如何工作的，也无法坦然接受我指出这一点。

LLM 是一个统计性的下一个 token 预测模型。它就是这么运作的。它是一台极其精密的计算器，执行的运算你在理论上可以用手算出来（前提是你足够自虐）。

数学本身并不知道自己在计算什么。Pi 不会花一晚上的时间思考圆的本质，c 也不会深思物质与能量之间的关系。

但这并不影响结果的准确性、令人惊叹的程度或实用价值。

在两次推理请求之间，LLM 并没有在“思考“。它不会重新审视自己的回答，不会反思自己是否犯了错，不会思索自身的存在，也不会质疑自己是否具有意识。它的权重保持不变（它不会学习），只有接收到输入时才会恢复运算。

我们之所以知道这些，是因为这些系统是我们设计的。其架构、数学原理、实现方式和相关研究都有详尽的文档记录。你完全可以自行研究。

当然，有些人会立刻转向生物智能的类比，或者意识的哲学辩论，因为那是他们熟悉的话题。

但生物智能和人工神经网络是根本不同的系统。相似的输出并不能证明它们具有等价的内在体验。

我直接体验着意识。我推断其他人类也是如此，因为我们共享相同的生物结构和过程。而对于 LLM，我们并没有等价的证据，而且其已知的运行机制也没有提供任何意识体验的证据。

这就回到了我最初的观点。

对我来说，理解就是有意识的认知。它意味着意识到信息、识别其含义，并体验到这种认知过程。如果我没有意识，我就不可能理解。

我们可以无意识地执行动作。我们可以在不知道为什么正确的情况下产出正确结果。但我会将这些能力与有意识地理解我们正在做的事情区分开来。

LLM 可以解决复杂问题、解释困难的概念，并产出极其准确的信息。对于这些能力，我给予充分的认可。

但产出一个被我们合理化为“理解“的答案，与真正体验到“理解“是不一样的。

你不必认同我的定义。我们可以一整天争论功能性理解与有意识认知的区别，但这无法确定 LLM 是否真的在体验任何东西。

正确的辩论应该是这样的……

机器能否展现出一种不同于人类意识的东西——一种可测量、有意义、值得研究的东西？

我认为当然可以！

我完全愿意从可观察、可检验的计算属性角度来讨论“机器意识“。这些系统是我们建造的，我们可以对其插桩、检查内部机制、探究它们的能力。

这似乎比无休止地争论机器是否像人类一样体验生命要更有建设性。

所以我的问题是：

你会如何定义机器意识？更重要的是，你会如何衡量它？

Gregory M. Kurtzer (@gmkurtzer): 不确定谁需要听到这个，但是……

LLM 并不“理解“任何东西。它是一个统计模型，基于通过大规模矩阵运算和上下文计算出的概率来输出 token，而非基于对主题的理解。