来自虚无的声音

# 来自虚无的声音 • zanlib 原文链接: https://zanlib.dev/blog/a-voice-from-nowhere/ ###### 2026年7月24日 --- 圣座自1995年起就有了网站，但利奥十四世教皇的首道通谕（https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html）发布的那天，是我第一次看到它被小众天主教圈子以外的用户引用。这份通谕的链接在 X、领英、Hacker News 和 Reddit 上被广泛传播，它也是有史以来第一个被发布到 lobste.rs（https://lobste.rs/s/eedsds/encyclical_letter_his_holiness_leo_xiv#c_kpc3hw）上的 ".va" 链接。看到它被点赞，我很惊讶。人们似乎*真的*读了它。而且，他们似乎是在诚恳地讨论。 我猜想，如果十五年前，在道金斯还常出现在机场书店的年代，你告诉一屋子的工程师，说总有一天他们会去阅读一份天主教通谕，并且大部分时候还会点头赞同，你最多只会收获礼貌的怀疑。 几个世纪以来，教皇通谕已经不再仅仅是天主教神学家和神职人员内部感兴趣的文献。它们成为了严肃的道德哲学著作，被天主教甚至基督教圈子以外的人阅读和讨论。因此，除了作为天主教徒的训导来源之外，它们还必须以其自身的价值，面向"所有善心人士"1（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-mh2）Mardownnote mh21 教皇利奥十四世。 *Magnifica humanitas*。 Libreria Editrice Vaticana 2026； § 2↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-mh2-1）发表看法。我第一次亲眼目睹这一点，是在教皇方济各的*Laudato Si'*发布之时。虽然那篇通谕的主题并非我特别感兴趣的，但它激发了广泛的行动，并随着时间的推移渗透到众多倡议中。除了在许多严格意义上的天主教机构内部产生影响外，它还在联合国生态专题小组上被引用，并在严肃的气候变化论文2（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-ls）Mardownnote ls2McCallum, M. L.*Perspective: Global country-by-country response of public interest in the environment to the papal encyclical,*Laudato Si' (https://www.sciencedirect.com/science/article/abs/pii/S0006320718315477)。 Biological Conservation 2019； pp. 209–225↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-ls-1）中被引用，这些论文发表在多学科期刊上。 利奥教皇的当选对我来说是一件意义深远的个人事件。我出生于若望·保禄二世教宗任期，他的遗产至今仍在波兰文化中持续存在。本笃十六世当选时，我还是个孩子；到他退休时，我是个不感兴趣的青少年。方济各教宗在复活节星期一去世，我是在那天去教堂的路上听广播得知的。两周后，全家人一起看着EWTN直播的闭门会议画面，对着那些海鸥（https://www.fox13seattle.com/news/sistine-seagull-pope-conclave）发笑。然后，我们就有了一位新教皇。 利奥是我很可能会有意识地追随其整个任期的第一位教宗，在他当选时，我向自己承诺，我会全心全意地阅读他撰写的文字。事实上，*Magnifica humanitas* 涉及我日常工作的领域，也确实是我感兴趣的，这真是一个极好的巧合。 我曾考虑为这份通谕写一篇完整的评论，但写到一半时，我意识到这可能并非一个好主意——这份文件内容如此广泛，涉及如此多的主题，要在保持自身行业视角的同时，连贯地评论所有内容是不可能的。然而，其中有几条贯穿全文的主线，与编程领域和软件工程师的日常工作密切相关，值得探索。虽然我的工作不属于人工智能领域，但我每天都大量使用这些工具，而教皇指出的这些工具的一个特性，是我们领域大多数人似乎都乐于忽视的。 ## 不属于任何人的声音 通谕在其早期就提出了其中一项论点： > "然而，在实践中，技术从来都不是中立的，因为它带有那些设计、资助、监管和使用它的人的特性。"3（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-mh9）Mardownnote mh93*Magnifica humanitas*, § 9↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-mh9-1） 工具带有其制造者的特性，这并不是什么新鲜事，但制造这些机器的人具有一种非常特殊的特性。他们是西方理性主义、主体-客体分裂（https://zanlib.dev/blog/on-lila/#on-the-subject-object-split）、经典二元论的继承者和祭司，这种观念根深蒂固，以至于不再被视为一种立场。这是一种信念：如果一个人足够努力地将自己与他的偏见、情绪、环境、偏见分离开来，当这种"减法"完成时，剩下的就是世界原本的样子——清晰、真实、事实、*客观*。 这是一种如此普遍的思维方式，以至于无法摆脱。 > "\[这种\] 理性自古以来就被用来将自己从当下环境的乏味和压抑中抽离出来。让人难以看清的是，过去它被用来远离一切，而如今这种逃避是如此成功，以至于现在浪漫主义者试图逃离的恰恰是这'一切'。"4（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-zmm）Mardownnote zmm4Pirsig, R.*Zen and the Art of Motorcycle Maintenance*。 Vintage 2004； pp. 65–66↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-zmm-1） "回应表面的客观性，"教皇写道，"可能导致我们忽视这样一个事实：它们反映了设计和训练它们的人的文化假设。"5（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-mh100）Mardownnote mh1005*Magnifica humanitas*, § 100↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-mh100-1）假装不站在任何特定立场，并非没有偏见，而是一种自身的偏见，是建造者所持有的一种偏见，隐藏得很好，以至于他们自己都未能察觉。只有一个观点（https://en.wikipedia.org/wiki/Logos_(Christianity)）有权声称是客观的，而我们任何人都无法直接触及它。 然而，语言模型那种自信的声音，并非抵达那种境界的声音。它更加空洞，因为当人类踏上通往客观性的道路时，我们可以从文字表面下看到那种努力。而就机器生成的散文和代码而言，其背后并不存在这种奋斗。 ## 底层的路径 > "这些系统仅仅模仿人类智力的某些功能。在这样做时，它们通常在速度和计算能力上超越人类智力，在许多领域提供了切实的好处。然而，这种力量完全与数据处理密不可分。 (...) 它们可以模仿语言、行为和分析能力，甚至模拟同理心和理解力，但它们并不理解自己产生的东西，因为它们缺乏人类通过其成长智慧的情感、关系和精神视角。"6（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-mh99）Mardownnote mh996*Magnifica humanitas*, § 99↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-mh99-1） Pirsig 在《禅与摩托车维修艺术》第六章中用了很大篇幅，以几种不同的方式拆卸摩托车。7（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-zmm2）Mardownnote zmm27*Z&AMM*, pp. 66–68↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-zmm2-1）他所作的划分并非焊接在机器上。没有唯一正确的办法将摩托车分解成部件；一个人选择在哪里切割，并且他根据自己已经理解的东西、以前见过失败的东西、他碰巧关心的事情来选择。骑手可能关注按功能划分，机械师可能关注按其组成的装配体划分，零件供应商可能严格遵循工厂规定的零件编号方案来进行自己的划分。随机器附带的说明书隐藏了所有这些，因为它使用的是无个性的旁观者的语气，仿佛背后空无一人——尽管当然有人。摩托车并不是人们发现它们躺在田野里。是人让它们运行起来，而制造过程留下了一条轨迹。 当我说人类的工作有一条底层的路径时，指的就是这条轨迹，它构成了我们所做一切的基础。当你手写东西时，某些东西促使你以特定的方式书写；那条路径是你固有的，是你对问题的视角，是你过往的经验，是你具体的处境。你以一种特定的方式筛选沙粒8（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-zmm3）Mardownnote zmm38*Z&AMM*, p. 72↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-zmm3-1）。 机器没有这样的路径——或者更确切地说，这正是麻烦所在——它假装拥有它实际上没有的路径。人工智能鹦鹉学舌般模仿那种结构，但因为其"推理"方式完全不同，所以它无法自行产生这种结构。形式被复制了，但生成它的理解却缺失了。它是一个伟大的伪装者——再说一次，这在一定程度上就是它的设计目的——所以当你阅读人工智能生成的内容，无论是散文还是代码，常常会有一种不安感。内容可能在所有有意义的层面上都是正确的，它*看起来*是对的，但与此同时，它似乎完全缺乏任何底层结构。人类自然地思考、推理、体验和交谈，都会利用类比（https://zanlib.dev/blog/on-surfaces-and-essences/）；超过某个最低限度的质量门槛，很明显文字背后有某种结构，而这种结构正是机器无法铺设的。 路径并非完全缺失。当你生成代码或散文时，必须将某些知识注入到生成过程中，而这个输入——在大多数情况下就是代理提示词——就像任何其他人类创造性工作一样，其背后也有一条路径。棘手之处在于，当审查人工智能生成的代码或阅读人工智能生成的散文时，你得到的是输出而非输入，这两者分离得越远——即最后一个人工判断点到最终成品之间的 gap 越大——就越难辨别那条路径是什么，或者一开始是否真的存在。 当你阅读时，你会本能地寻找底层的结构——为什么在这里而不是那里，什么被看到了又被搁置了，作者在哪里对他的假设感到不确定。当你无法判断你是在看一个严谨作者的作品，还是在看一只随机鹦鹉时，你就无法判断那个结构是否存在于那里等待被发现，也不知道其中投入了多少人类智慧。这就是为什么阅读任何你已经识别出是人工智能生成的内容会如此令人疲惫。你是在猜测，在寻找一些你甚至不知道是否存在于那里的东西。 ## 从一开始就被封闭了 如果工具抹去了作品中的路径，那么它也会更缓慢地抹去工作者自身的路径。 > "快速轻松地获得答案或摘要的能力，有风险熄灭提问的欲望 (...) 正如柏拉图所写，最深刻、最重要的事物只有在经过大量的时间和努力后才能学到 (...) '撞击'思想 (...) 如同燧石，直到理解的火花被点燃。"9（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-mh140）Mardownnote mh1409*Magnifica humanitas*, § 140↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-mh140-1） 当你遇到一个需要修复的特定工程问题时，通常你会查阅手册、文档或其他相关文献，并尝试在那里找到解决方案。在此过程中，你常常会偶然发现一些额外的、无关的信息，你会半意识地将其归档，以备日后需要时使用。使用谷歌搜索减少了这种意外发现的惊喜，它会直接引导你到处理你问题的那个章节——但你仍然会落在那页面上，并且可能还会在浏览的过程中瞥见一些有趣的东西。 谷歌的结果，至少，是一个完整的文档：它回答了你的问题，同时还在边缘做了三到四件其他事。来自聊天机器人的答案则被精确地修剪到只符合查询要求，没有边缘，没有离题。当你访问代码库的唯一界面是聊天窗口时，你就看不到差异周围的语境。通过精确地得到你所要求的且没有任何附带信息，你封闭了横向探索的可能性。 当你不再知道你的代码在做什么以及你系统的边界在哪里时，你就失去了维护系统的能力。如果维护项目的整个团队都与实际部署到生产环境的东西脱节，那就完蛋了。10（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-wsff）Mardownnote wsff10Horthy, D.*Why Software Factories Fail*（https://github.com/humanlayer/advanced-context-engineering-for-coding-agents/blob/main/wsff.md）↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-wsff-1） ## 签名及其掩盖的东西 > "这就是问责制变得至关重要的地方：识别出谁必须为决策'负责'、证明其合理性、监督它们，并在必要时挑战它们并补救所造成的任何损害的可能性。"11（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-def-mh105）Mardownnote mh10511*Magnifica humanitas*, § 105↩（https://zanlib.dev/blog/a-voice-from-nowhere/#marginnote-ref-mh105-1） 当我在一个为大型专业服务客户做的项目上工作时，我们有约定确保每一行代码都可以追溯到最终负责的人：代码行存在于标有 Jira 工单的提交中，工单带有领域专家的签核，他们已确保需求和业务逻辑是正确的，并且它们存在于由经理签核的更大的史诗中。当某件事失败得足够严重时，这个链条上的每个人都会加入一个电话会议并努力修复。我的一些同事认为这种做法不健康，并表示我们应该有无可指责的事后复盘（https://www.atlassian.com/incident-management/postmortem/blameless）。 如今我们有了： "哦，Claude 就是这么写的。你也有这个问题，只要提示它修复一下就行了。" 我注意到，如今人们花费了大量精力试图将自己与机器的输出分离开来。我共事的一些人不愿意承认某个特定的提交是由人工智能写的，因为承认这一点就等于招来了一个问题：他们是否完全理解了问题所在。所以他们用自己的名字签署提交，省略了`Co-Authored-By`，留给读者去判断他是在看一个称职的程序员的作品还是一个语言模型的输出。而且，暗示同事的工作是人工智能生成的，是不礼貌的，因为这种暗示意味着他没有思考。所以这个问题从未被问及。整件事就消解了，我们无法追踪理解力最后存在于哪个层面，就在工作被移交给机器之前——或者说，它是否从一开始就存在。 这正是通谕要求我们保持的可能性，"识别出谁必须为决策负责的可能性"。通谕在讨论战争时坚持认为，"将致命的或其他不可逆的决策委托给人工系统是不允许的"