当AI产出人类可验证但永远无法理解的知识时，会发生什么？

# 你和上帝之间没有沟通渠道 来源：https://mikaelhuuhtanen.com/scratchpad/there-is-no-avenue-of-communication-between-you-and-god/ 凌晨三点左右，像往常一样，我在和ChatGPT聊天。话题从宗教滑向人工智能的未来，又聊到AI有朝一日可能产生人类无法理解却能测试和使用的知识——这一可能性。 这并非一个全新的担忧。多年来，研究人员一直在讨论可解释性、超人类推理以及验证先进系统的难度。我只是从未深入思考过，生活在那个鸿沟的另一侧会是什么感觉。 我的狗能看着我使用手机。它知道我会盯着屏幕、触摸屏幕、对着它说话，有时还会摘下耳机再带它出门。它能够学会这些模式，却丝毫无法理解软件、无线电传输或语言模型。 在兽医那里，同样的鸿沟更为重要。它可能学会那栋建筑意味着疼痛、陌生的气味，以及偶尔之后会感觉好转。它无法理解微生物学、诊断的不确定性，也无法理解为什么我会同意让陌生人给它扎针。无论我用多么清晰的措辞，都无法让缺失的理论框架显现出来。 对它而言，唯一剩下的是可靠性。摘下耳机可能预示着要散步。一次可怕的就诊之后可能是缓解。它无法重构整个过程，但可以对其效果形成预期。 现在想象一下，一个先进的AI发展出一种人类因类似原因而无法理解的理论。不是因为它拒绝解释，也不是因为数学太难，而是因为该理论依赖于我们的大脑无法忠实表征的概念或关系。 我们或许仍能测试它。它预测明天14:37闪电会击中某棵特定的树。果然击中了。根据该理论设计的材料表现如预期。基于它的治疗方案有效。其他系统复现了结果。 这建立的是可靠性，而非理解。该理论在测试条件之外仍可能是错误的，但持续的成功会使其难以仅仅因为无人能跟上而被否定。 这种鸿沟很可能会逐渐扩大。起初，AI可能产生研究者能理解的理论。后来，它可能提供一些简化解释，虽然有用但不完整。最终，这些解释可能更像接口：足以测试结果、构建某物或做出决策的信息，却无法触及连接一切的框架。 我们常常把无法理解的知识想象成更难的数学或更长的证明。真正的障碍可能更接近我狗和我手机之间的那道。问题不在于词汇量，而在于缺少构建相关模型所需的概念。 人类知识从来不仅仅是实用的。我们教授它、争论它、用它来决定谁值得信任。即使是高度专业的工作，原则上也可以在人与人之间传递，并融入人类文化。 能被使用却永远无法理解的知识，其地位会有所不同。一种能可靠治愈疾病的疗法可能容易接受。关于如何组织社会的建议则不然。同一套系统可能在一个语境中被视为工具，在另一个语境中则更接近神谕。 谈话到这里，又绕回了宗教。 宗教长期以来一直在尝试为那些太大或太奇怪而无法融入普通人类经验的事物赋予形态：创世、永恒、可见世界之外的存在，或者可能从另一个视角看会有不同形态的现实法则。这些理念通常通过故事、意象和人际关系来呈现，因为这些是我们可用的形式。 一个在这些形式之外运作的AI，可能会带回一些更狭隘的东西：预测、近似值或指令——人类可以使用，却无法完全理解它们所指涉的内容。从我们的角度看，这种关系可能开始类似于启示——不是因为机器变得神圣，而是因为我们接收到了可以测试却无法重构的主张。 大约在这一点上，我写道： > “你和上帝之间没有沟通渠道。” 这看起来是个不错的标题。 对话中的“上帝”不一定是一个存在。它是一个粗略的标签，指代那些可能仍对人类思想不可及的现实部分，即便另一种智能能够处理它们。AI并不会创造这种距离。它只是可能让这种距离变得更难以忽视。 至于是否会发生类似的事情，是另一回事。就目前而言，这一可能性更多地作为提醒而有用：人类的认知与现实的边界并非注定相互匹配。 与此同时，我会努力珍惜正经历着的这段历史——它很可能是最后几段我仍能靠自己理解的时光之一。