智能时代：判断

想象一个人试图理解某件事。他们注意到了自己尚无法解释的模式、矛盾与联系。他们收集观察，在书页空白处做笔记，反复回到相同的问题，并寻找能将零散的印象转化为一个连贯的现实模型的语言。他们有一种局部的理解，但尚未成形到可以与别人交流。他们的想法仍在成形，慢慢融入他们所观察和经历的一切，直到它凭借自身的重量立得住。思考的困难工作不在于收集信息。信息无处不在。困难的部分在于将某种无形的东西——模糊的直觉、未被识别的模式——塑造成清晰。在观察与表达之间，存在一段不确定的时期。一个人必须梳理自己的思想和假设，去除不属于的部分，并弄清楚自己正在构建的结构是否真的成立。这项工作可能感觉低效。它需要时间、挫败、修改，以及愿意在不安适的状态中保持不确定更久。但正是在这里，能动性和判断力扎根。判断力由经验、反思和与现实的接触中建立。通过描绘自己的思想，一个人懂得自己为何相信。判断力向来是在从不确定走向理解的运动中形成的。在人类历史的大部分时间里，人们无法消除这一距离。一个人必须与不完整的想法共处，与模糊性斗争，逐渐发现什么是真实的、什么是重要的。我们总是创造工具来克服限制。书写让思想超越记忆而存续。书籍让知识超越一个人的一生。机器延伸了身体能力。计算机延伸了计算。互联网延伸了获取信息的途径。每个工具都延伸了人类能记忆、计算、构建和交流的范围。AI正在改变人类判断力发展的条件，常常在人们没有注意到哪些过程正在消失的情况下。人工智能运作于机器产生的解释可以直接进入人类决策的节点。它能组织思想、测试可能、产生前进路径。然而智能扩展我们的选项；判断决定哪些可能性值得追求。对于某个努力表达自己已有所感之物的人，AI可以缩短直觉与表达之间的距离。那个距离正是判断力形成之处。越来越多的环境允许人们保持在不确定性之中的时间被减少，不足以让他们的问答成熟。困惑中的诱惑是在发现原本的问题是否就是正确的问题之前先寻求答案。技术可以减轻负担，但判断力依然通过经验、反思和后果形成。一个学生使用自动化模型来反驳自己的论点，而不是自己写论证，或许也能深入参与；但一个绕过了维护论点所需的推理过程的学生，就避开了理解发展的过程。一个科学家未经了解模型在何处失效就直接采信其输出，冒着失去自己发现锐度的风险。能力通过足够长久地琢磨问题以改变我们的视角而增长。经验并不会仅仅因为发生就变得有意义；意义在之后浮现，当一个人反思所发生的事、质疑它，并将它与自己已知的一切联系起来。一个思想之所以具有转变性，是因为它改变了一个人所知道的，以及他们感知和回应现实的方式。辅助让人保持投入到工作中。替代则完全移除过程。区别在于，人是否仍然负责形成判断，抑或只是接收一个结果。围绕许多AI系统的经济与实用压力指向替代：用答案替代推理，用推荐替代发现，用选择替代创作。人们可能保留选择的能力，却失去判断什么值得选择的能力。写作约束思想。科学约束信念，迫使我们面对挑战预期的证据。领导力约束行动，迫使我们面对后果。通过这些实践，人不仅仅完成事情。他们培养了更清晰地洞察世界的判断力。人类总是通过工具延伸自己。危险在于，我们把那恰好教会我们如何善用工具的摩擦交了出去。一个未完成的想法变成即时答案。一个难题变成捷径。一种可能变成预测。慢慢地，一个人从形成判断转向从选项中挑选。工作可能完成。产出甚至可能改善。但那个本会在过程中被塑造的人，不再需要经历它。失去的是人与通往那里的路径之间的联系。这就是作者身份的意义。作者身份是人与塑造结果的选择、疑虑、失败和发现之间的联系。它是知道某件事为何重要，因为你亲身参与了使它成真的那些决定。判断需要参与。一个人通过反复行使判断而变得有能力决定什么重要。这些工具可以支持判断，但它们不产生判断。判断仍要求人保持在思考工作中参与。一个没有本地导师的学生可以从AI那里获得有意义的反馈，只要它检验他们的假设而不是宣告结论。研究者可以更快地探索竞争性假说。创始人在投入资源前可以挑战自己的盲点。智能可以即时扩展。智慧不能。智慧需要时间、后果、反思，以及修正我们所相信之事的谦逊。判断通过思考和为思考产物负责而成长。当现实与一个人相悖，且他为回应承担责任时，他便变得有智慧。因为判断是通过练习培养的，我们必须考虑我们创造什么样的技术，以及它们鼓励什么样的习惯。当空前智能被引入主要为速度、增长、竞争和短期回报而优化的系统中，它不会自动纠偏。如果人们失去形成独立判断的能力，社会并不会变得中性。它变得更易于在没有反思的情况下移动，跟随任何已存在系统的动量。个人判断是集体方向的基础。制度归根结底是人类判断的表达，继承了创造和维护它们的人所持有的假设、优先事项和局限。当人们失去检验假设、质疑输出和修正信念的能力时，制度就失去了能够改变它们的人。没有判断的智能不会创造更好的未来。它只会创造一条更高效地通往既有目标的路径。更快引擎不会修复驶错方向的车辆。当速度和产出成为首要指标，追求最大效率便可能开始取代判断本身。人类判断依然取决于人们多大程度上深入参与思考的工作。那个试图理解某事的人从来不只是寻找答案。他们是在构建一幅足够精确的地图来导航现实。创建这幅地图使他们不仅能找到路，还能决定应该去哪里。未来取决于个人和机构是否培养决定智能用途的能力。一个不能判断自己方向的社会不能选择另一个方向。