AI监控正变得超强

# 人工智能监控正在被超级增强——这将扼杀社会进步 | 布鲁斯·施奈尔与乔恩·彭尼 来源：https://www.theguardian.com/commentisfree/2026/jul/06/ai-surveillance-policy 在不久的将来，由人工智能（AI）驱动的监控系统将能够追踪我们在公共场合所做的一切，以及我们在私人场合所做的许多事情。如果我们做错了什么事——比如偷窃、乱扔垃圾、乱穿马路，等等——系统都会注意到，记录下来，关联到你的官方政府档案，将这一事实告知你，并向相关当局提供实时警报……或许还会向公众公开。 你可以把这些系统想象成自动测速摄像头，但威力更强。它们不仅会强制执行限速规定，还会执行你能想到的任何其他规则。而且你不再会在几周后通过邮件收到罚单；你会立即被告知违规行为并当场罚款。 这些系统将结合强大的AI、通过实时面部识别技术和数字追踪实现公共与私人监控、海量数据库以及高度个性化的执法。如果大规模部署，它们不仅会对个人自由，还会对民主本身和社会进步产生深远的寒蝉效应。 中国多年来一直在发展其监控基础设施。该国拥有超过6亿个监控摄像头，并且越来越多地由AI和面部识别技术驱动，以执行法律和社会规则。以老段为例，这位中国公民因失业无力偿还一系列贷款而被系统列入黑名单。当他访问北京时，城市的AI监控系统在一个主要路口通过面部识别认出他，并在附近的大型电子广告牌上显示他的面部、姓名和身份证号，并附上一条信息称他为失信人员。类似的系统目前正在中国各地部署，并与该国臭名昭著的线上监控、审查和社会信用体系整合。 AI监控目前正在北美、南美、欧洲、亚洲和非洲进行试验。根据一份新报告，美国国土安全部正在迅速增加基于AI的监控使用，包括面部识别和社交媒体账户监控，以追踪移民、异见人士、记者、法律观察员和抗议者。虽然这些系统表面上是为了维护安全和公共安全，但真正的目的往往是社会控制。甲骨文公司（Oracle）CEO拉里·埃里森——这家强大的科技巨头与特朗普政府密切合作——曾表示：“公民将表现最佳，因为我们一直在记录和报告。”寒蝉效应正是其目的所在。 AI监控引发了一系列公共政策挑战：技术偏见、无法审计的系统，以及僵化的自动法律和社会规则执行，这些都可能助长歧视，削弱透明度、问责制和法治。但我们认为，最紧迫且长期的影响将是其更广泛的寒蝉效应。 在一本新书《寒蝉效应：数字时代的压制、顺从与权力》中，乔恩·彭尼解释了监控、技术和权力如何被武器化，以大规模影响行为。监控、个性化、不确定性和权威都是放大寒蝉效应规模与影响的关键机制。它们导致人们自我审查自己的言行，变得更加顺从和服从，从而更容易被管理和控制。而且这些效应是叠加的：使用的机制越多，形式越强大，寒蝉效应就越严重。 长期以来，计算机化使得数据收集者能够追踪我们的位置、收集我们与谁通信的清单、监控我们的消费习惯——除非我们使用现金。而新出现的是这些机制前所未有的融合，持久且无情。AI带来了分析能力，能够窥探我们通信的内容，并回答关于我们行踪和活动的复杂问题：以前需要人类分析师的操作现在都已自动化。结果将是某种超级增强的社会层面的寒蝉效应，恐惧、自我审查和群体思维占据主导，而异见、创造力和创新则变得越来越罕见。 在这种恐惧与顺从的氛围中，冒险的想法、社会活动以及自我重塑——尤其是被边缘化群体和受针对人群的行为——也会受到寒蝉效应的影响。这将对长期社会进步产生影响。 想想不久前同性恋关系和大麻娱乐性使用的社会正常化过程。几十年来，这些观念从既违背道德又非法，缓慢发展到虽然违背道德但仍然非法，最终成为既道德又合法。但要让这一切发生，必须存在一种反文化，能够进行实验，并最终向世界证明道德会随时间改变。如果AI监控抑制了这种在公共或私人场合的实验，社会进步就变得不可能。 历史上几乎没有真正的先例；这些技术太新了。即使在美国历史上最臭名昭著的大规模国内监控计划——20世纪50年代和60年代，联邦调查局利用窃听、拆看实体邮件、线人以及纸质索引卡片追踪所谓共产主义者的行为——在现代AI增强的监控面前，也显得真正地过时了。冷战时期东德以人力为核心的监控网络也是如此。只有乔治·奥威尔或奥尔德斯·赫胥黎等人的科幻作品与之接近。但即使是大兄弟的“电幕”，相比之下也感觉明显是20世纪中期的产物。 但我们不必袖手旁观。既然我们认识到AI增强的大规模监控的危险，我们就可以做出政策选择，不实施它。禁止面部识别和其他身份识别技术可以减缓发展；强健的新隐私和数据保护措施可以限制数据追踪和保留；AI法规可以限制其最具侵扰性的用途；结构性改革可以帮助我们审查并瓦解那些为AI监控等技术过度行为铺平道路的强大国家/科技垄断联盟。 AI驱动的大规模监控的寒蝉效应将窒息健康民主社会的根基。但我们仍然可以选择一条不同的道路。 - 布鲁斯·施奈尔是一名安全技术专家，任教于哈佛大学肯尼迪政府学院和多伦多大学蒙克学院 - 乔恩·彭尼是多伦多约克大学奥斯古德·霍尔法学院副教授及人工智能、数据治理与法律领域的约克研究主席