论全景监狱无法窥见之物

# 论全景监控的盲区 我们理解面包师如何与世界互动。他能感受隔夜雷暴带来的潮湿重量，嗅到面包外壳裂开时的温度气息。他与形形色色的人交谈——那些如同面包般各异却如地区地缘政治般重要的人物。阿拉伯人的麦哈兹店，法国人的面包房，拉丁世界的面包铺。生活的微妙之处尽在于此。 但我们对技术的依赖已将生活构建成全景监控的形态，而我们却浑然不觉。有人屈服于计算能力的威权，将数学逻辑误作理性，将量化测量视作理解。他们任由数据采集畅通无阻，用计算模型的便利性为任何欲求的行为辩护。另有人则放弃独立思考，将自身重塑为系统可读的形态。对未知信仰的偶像崇拜就此诞生。 然而我们未能理解，机器无法把握任何特定时刻的内涵，更遑论那些主宰我们生命不可量化的时刻集合。它们看不见我们眼中所见的面包师。尽管无法拒绝已降临的机器，我们必须约束它。 建筑性决策决定了机器是否能在所见之事上欺瞒我们。我们在城市中建造的摩天大楼，仅允许窥见一小方蓝天，一道窄缝中透出看似无扰的光线。但云层已在建筑之外积聚。 模型亦然。它们绝不该是黑箱。五十年前，道格·麦克罗伊为构建可组合系统定下准则：让每个程序做好一件事，协同工作，并提供通用接口。这套准则经适应后成为测量伦理：模型必须估算单一事项，预期其输出将成为未知使用者的输入，并严格遵守接口规范，使各组件能组合成仍可追责的整体。 做好一件事意味着每个模型对应单一估计量。这是我们陈述测量内容、未测领域、遥测观测范围以及机器完全无法触及之物的基础。模型必须回答单一明确问题，使答案能接受经验现实的检验。引擎可以估算烤箱温度、谷物产地或发酵时长。 但引擎无法解释为何泥窑烤制的库布兹面包不同于面包房的法棍，正如玉米饼与柴火烤炉产物的差异。更无法解释谈话为何萦绕着恐怖主义、革命与腐败的阴影。 当模型试图同时估算两件事时，我们便失去判断其错误所在的能力。当模型试图估算其无法观测之事，便从测量转向了断言。 预期每个模型的输出都将供尚未谋面的使用者消费。这之所以可能，正是因为每个模型专注估算单一环节，且精准清晰。一次计算的数量可供众多消费者使用。 生活存在于不确定性中。单个数字无法承载决策。与恐怖分子、革命者、政客共同分食面包意味着什么？ 不确定性存在于分布之中。UNIX的通用接口是文本流；任何读写文本的程序都可与其他程序组合。我们的契约更为严苛：每个模型必须输出分布。通用架构能将一堆模型转化为系统。 我们重建模型，视其为图中节点，其输出化为模型间的连接边。重新构建而非使旧模型复杂化。 此哲学延伸至数据本身。每个数据源都是具有有限孔径与固有盲点的物理传感器。它们各司其职，以特定偏见观测单一信号。温度计测量烤箱内的温度，却无法感知正在形成的面包硬度。计时器记录发酵过程，却对湿度影响面团一无所知。秤能称量面粉重量，却听不见外部战争的沉重。 诚实的架构不会强迫单个模型实时调和偏见。相反，它通过单一观测层组合模型，清晰划定可观测与不可观测的边界。 但数据与小型模型易于实现，架构却艰难复杂。价值不在于模型的小巧，而在于管道——这管道必须具有通用性并由可信方掌控。诚实的架构唯有在掌控方诚实的前提下才能保持诚实。我们能信任一个统计自身死亡人数的国家吗？ 当无人恪守契约，联结便会腐朽。此哲学所要求的纪律存在于架构之中，而非模型之内。 我们不设计复杂模型，而须设计复杂系统——其简单组件能如实陈述自身局限。 由于每个数量被独立估算并保留为分布，系统得以达成前所未有的境界：湿度与发酵从未彼此独立；隔夜风暴早已融入面团。我们能够测量这种关联。 我们可以信任这样的系统所告知的一切：烤箱、谷物、时长。信任它，因为它同样坦承其盲区所在：那位面包师。