人工智能与民主：抵制优化的权利

# AI与民主：抵制优化的权利 来源：https://humanistreview.ai/issue-1/tang-ai-democracy-optimization/ 当人们问AI是否威胁人道主义时，我常觉得这个问题来得稍晚。更深层的威胁早已降临——当数字系统学会以工业规模分配注意力时，这场变革已然开始。早在生成式模型能写文章、谱曲或模拟对话之前，我们许多人早已被训练得像排序系统里的零部件：永远可见，永远被动反应，永远可量化。当合成语言的流畅性到来时，一场更安静的转型正在进行——我们正变得更易被评分。 因此我认为，本世纪核心问题并非机器是否会变得更像人类，而是人类是否还能保持“无法被机器轻易评估”的本质属性。 我见证过两种可能性。一方面，语言模型能帮我开启原本无法参与的对话。有次要会见一位日本思想家，我无法阅读其最新著作原文，便用AI搭建了跨哲学传统的实用词汇系统。这个系统并未取代相遇本身，而是让相遇成为可能。一旦对话开始，模型的重要性便逐渐消退——它恰恰因为不再居于中心而完成了使命。 另一方面，我们都体验过适得其反的系统。它们不深化理解，而是训练人们适应信息流的节奏，将自身压缩成平台最易解读的形态，误将持续反应等同于参与。问题不在于AI会像人类般说话，而在于制度将因我们像机器般说话而给予奖励。 我们匮乏的不是内容，而是相互理解。人道主义的技术未来既不能靠感伤维系，也不能通过怀旧式地守护每个软件可加速的人类任务来实现。它取决于我们能否设计工具、制度与规范，以保护公共生活中独特的人性：跨越差异相互诠释的能力、建立持久承诺的约束力、无需受辱即可自我修正的勇气、使权力承担责任的制度，以及关怀任何基准都无法完全衡量的长远影响。 ## 值得守护的不止于手工劳动 许多人对AI的反应是通过捍卫所有人类任务来捍卫人性。如果模型能起草信件，那么尊严或许在于独立完成每个句子；如果模型能概括书籍，那么本真性或许要求亲手处理每一页；如果模型能创作音乐，那么唯一高尚的回应或许是保持手工艺的纯粹。 我理解这种本能。它源于对自动化可能掏空意义的正当恐惧。但我相信人道主义不能简化为保存手工劳动。许多人类任务本身并非神圣，它们只是围绕更重要事物的脚手架。 关键界限不在于是否辅助创作，而在于表达与责任的分野。模型或许能帮我遣词造句，但无法为文字承载的承诺负责；系统或许能帮我准备对话，但无法继承我决定发言的责任；工具或许能帮助我跨越文化清晰表达思想，但意图、承诺与问责必须始终由人承担。 这种区分很重要，因为它让我们能接纳拓展感官的技术，同时不放弃“在场”的道德责任。眼镜、字幕、地图、助听器、翻译工具和搜索引擎都延伸了我们的能力，让世界更可触及。我们不会因使用它们而减少人性，反而更能理解与被理解。 AI系统亦然。以我的经验，它们最佳的用途不是代替我生活，而是让我更能与其他群体妥善相遇。好的系统能帮我听见原本只有噪音的声音，在不懂的语言中发现概念，或重构艰难交流以维护双方尊严。此时工具更像临时的“相互理解义肢”，而非替代性自我。 这与当前关于“代理AI”的诸多话语所暗示的目标截然不同。能订房或安排日程的代理或许有用，但逐渐成为我社交存在、公共声音或道德替身的代理则完全是另一回事。当工具从延伸参与变为取代参与时，它们也开始重塑评判参与本身的标准。 此时人会适应代理。他们学会用机器友好的方式写作，为模型可见性构建工作，为算法吸收而优化情感表达。人类不仅使用系统，更开始围绕系统可处理的内容自我重组。这才是人性异化的真正危险：人类对机器可读性的自我规训。 ## 从自主个体到关系性的人 数个世纪以来，人道主义思想大多强调个体自主。这一传统赋予我们权利、自由、良知、表达自由以及对抗专断权力的人格尊严。我们绝不应放弃这些宝贵保障。 但AI时代以异常清晰的方式揭示了工业现代性常遮蔽的事实：我们不仅是自主个体，更通过关怀、语言、信任、冲突与承认的网络成为自己。人不仅是偏好的容器，更是回应模式的载体。 这点很重要，因为许多曾被误认为智能本质的活动现已自动化。规则遵循、表面流畅性、风格模仿、模式补全与应试表现越来越像实用工具。当这种情况发生时，最重要的人类能力反而更易显现。 学生的未来不应取决于在计算上超越计算器或在标准化表述上优于模型；工人的尊严不应取决于手打每个行政句子；公民的价值不应通过行为与推荐系统假设的吻合度来衡量。真正独特的人性并非原始产出，而是我们引导注意力、进入协作、在不确定性中判断、关怀共享世界的方式。 我常将这些能力视为关系性品质而非私人美德。好奇心不仅是内在求知欲，更是接近他人或问题时不轻易简化的态度；协作超越企业意义上的团队合作，是根据其他智能体改变自身计划的实践能力；对公共利益的公民关怀并非抽象利他主义，是愿意将影响范围扩展至直接利益之外的意愿。 这些品质都无法用优化语言恰当描述，且常被优化损害。执着于最大化指标的人会变得不那么好奇——因为好奇心需要超越指标奖励的范畴；变得不那么协作——因为协作改变节奏并重分配功劳；变得不那么有公共意识——因为公共产品很少产生最干净的短期分数。 这就是为什么AI时代的教育问题不是“人类还能比机器做得更好什么？”（这个问题保鲜期很短），而是“当多数表现形式可被自动化时，教育应培养怎样的人性成长方式？”我的答案是：教育必须从排名合规产出，转向培养诠释勇气、协作广度、伦理想象力，以及在不丢脸的情况下参与修正的能力。 民主在最佳状态下已教会我们部分这些。它是社会抵抗“一劳永逸解决自身”诱惑的技术。它为人们提供不撕裂社会即可改变方向的程序。在这个意义上，民主不反对技术，它本身就是人类最重要的技术之一：一种使集体生活保持可修正性的方法。 ## 智能非问题，信息流才是 当人们担忧合成亲密关系、机器人集群和大规模说服时，常将其描述为全新病态。其实不然。生成式AI只是加剧了早已架构完成的危机。 过去十年网络的核心病态并非言论过剩，而是通过排序提取注意力。信息流奖励最易引爆、最表演化、最可能触发快速情绪传染的内容。愤怒成为廉价能量源，细微差别太慢，语境传递不畅，而澄清总在立场固化之后才到来。 在这种环境中，信息变得不如节奏重要。人们采纳信念不仅因为证据有力，更因为围绕该信念的社会机器比反思运转更快。当谣言被质疑时，群体身份可能已围绕其形成。AI可能使情况恶化——它能批量生成有说服力的内容，定制情绪线索，模拟共识，用合成确定性淹没每个渠道。若在旧有信息流逻辑中使用，它将把现有两极分化变成制造分裂的永动引擎。 但AI也可用于对抗这种逻辑。它能在愤怒固化前添加注释，在道德语言不同但实践愿景重叠的社群间翻译，帮助揭示被误描述为文明冲突前的共同问题，能在人们站队前总结争论线程，能帮助人们在无需消化所有侮辱前回应敌意。 我发现最后这种用途异常重要。在公共生活中，人们常收到充满轻蔑、投射或焦虑的讯息。直接阅读会消耗大量情感能量。谨慎使用的语言模型能识别敌意中仍含真实关切、值得澄清的误解或伪装成攻击的悲伤。然后人可以回应这个更小、更可处理的部分。 机器不和解，不宽恕，不创造友谊。但它能减少决定一段关系是否值得挽救前必须摄入的毒素。在这个意义上，AI有时既可充当冲突放大器，也可成为让意义通过同时降低毒性的膜。 若我们严肃对待人道主义，公益AI应朝此方向发展。我们需要倾听的基础设施，不仅是生成的基础设施；需要增加诠释带宽的公民系统，而不仅是表达吞吐量。评判标准不应是模型一分钟能产出多少内容，而应是它是否让公众更善于理解分歧而不将其转化为敌意。 ## 摄影之后的真理 这些问题显得紧迫的原因之一，在于图像与真理的旧有关系正在瓦解。一百多年来，许多社会将摄影视为特权证据形式。照片并非绝对可靠，但被赋予特殊认知地位——它似乎直接捕捉现实。 数字文化已削弱这一假设，生成式模型则彻底溶解它。图像、声音和视频都能令人信服地合成。仅凭表象已不足为据。 许多人认为这意味真理本身进入终极危机。我不这样看。崩塌的不是真理，而是通向真理的特定捷径。我们被迫重新发现更古老、长远来看更稳固的事物：公共真理始终依赖表征、溯源、程序、佐证与可质疑性。 即使在深度伪造出现前，法庭也不会孤立地看一张照片断案。他们会问谁制作、经过何种监管链、与何证词关联、受何种质疑。优秀新闻业、科学和民主问责同样如此。问题不在于表象是否真实，而在于是否存在可问责的程序，使主张可被检验和修正。 这指向更成熟的数字认识论。未来最重要的区分不再是自然与合成之分——仿佛未触碰的现实与生成媒体存在于不同世界。重要区分将是可问责与不可问责的中介之间的区别。 谁为主张负责？哪个社群、机构或签署者承担责任？他人如何检查、质疑或附加语境？系统能否在不使异议消失的情况下记录异议？ 民主社会的真理从来不是某个声音从无处发声，而是不同社群能比较证据、相互质疑，同时维持使修正成为可能的程序。AI可通过追溯来源、识别矛盾、在词汇间翻译来协助此过程。但绝不能将其置于社会之上的先知位置。目的不是替代公共判断，而是使公共判断更有能力。 ## 人道且可中断 当前AI论述的另一错误假设是：喂养最多数据、作为通用层提供的最通用模型，必然是最高形式的智能。这是帝国思维的技术版本，混淆了规模与合法性。 实际上，影响人类生活的多数决策依赖情境、范围与情境化责任。课堂助手无需同时决定福利资格，医疗分诊系统不该同时安排排班，翻译工具不应悄然变成政治说服工具。人道系统需要人们能理解的授权范围。 这就是我怀疑那种让单个助手同时成为工作、沟通、教育和公民生活操作层愿景的原因。此类系统看似便利，但将太多领域置于太少质疑之下。当工具无处不在时，拒绝变得困难；当它调解太多功能时，错误变成结构性；当其权威分散时，问责也变得分散。 人道设计始于边界性——这是部署属性而非能力属性。通用基础模型可在狭义民主授权下本地调校部署，完全对所影响的人群负责。 问题是谁掌握方向盘，以何种价值观设定方向。AI执行的是有权设定目标者选择的目标。若唯一选定的指标是效率，那么通常被优化掉的会是关怀、耐心、信任，以及社会需要保留的人与人之间的空间。 人道系统应明确其授权终点所在。