AI监控与社会进步

# AI 监控与社会进步 - Schneier 谈安全 来源: https://www.schneier.com/blog/archives/2026/07/ai-surveillance-and-social-progress.html 在不久的将来,由AI (https://www.theguardian.com/technology/artificialintelligenceai) 驱动的监控系统将能够追踪我们在公共场合所做的一切,以及我们在私密场合的大部分行为。如果我们做了什么错事——偷窃、乱扔垃圾、乱穿马路,你想得到的——系统都会注意到、记录下来,并将其关联到你的官方政府记录,将这一事实告知你,并向任何相关当局(或许还有公众)提供实时警报。 可以把这些系统想象成自动测速摄像头,但效果更强。它们不仅会强制执行限速规定,还会强制执行你能想到的任何其他规则。而且你不会在几周后通过邮件收到罚单;你会立即被告知违规并当场罚款。 这些系统将结合强大的AI、通过实时人脸识别技术与数字追踪实现的公共与私人监控、海量数据库以及高度个性化的执法。如果大规模部署,它们不仅会对个人自由,还会对民主和社会进步本身产生深刻的寒蝉效应。 中国多年来一直在发展其监控基础设施 (https://www.nytimes.com/2018/07/08/business/china-surveillance-technology.html)。该国拥有超过6亿个监控摄像头,越来越多地由AI和人脸识别驱动,以执行 (https://www.cnn.com/2025/12/04/china/china-ai-censorship-surveillance-report-intl-hnk) 法律和社会规则。以老段为例,这位中国公民在失业且无法偿还一系列贷款后被系统列入黑名单 (https://www.npr.org/2018/10/31/662696776/what-its-like-to-be-on-the-blacklist-in-chinas-new-social-credit-system)。当他访问北京时,该市的AI监控系统在一个主要路口通过人脸识别出他,并在附近的一个大型电子广告牌上显示他的脸、姓名和公民身份证号,并附上一条信息,称他是一个不诚信的人。类似的系统现在正在中国各地部署 (https://www.visiontimes.com/2026/05/05/chinas-cameras-catch-minor-offenses-but-miss-missing-persons-french-report-says.html),并与其臭名昭著的在线监控、审查 (https://www.cnn.com/2025/12/04/china/china-ai-censorship-surveillance-report-intl-hnk) 和 社会信用 (https://time.com/collections/davos-2019/5502592/china-social-credit-score/) 系统集成。 AI 监控现在正 在北美 (https://www.motherjones.com/politics/2025/04/clearview-ai-immigration-ice-fbi-surveillance-facial-recognition-hoan-ton-that-hal-lambert-trump/)、南美 (https://www.alsur.lat/sites/default/files/2025-11/Facial%20recognition%20and%20surveillance-1.pdf)、欧洲 (https://www.lemonde.fr/en/pixels/article/2025/09/01/the-discreet-rise-of-facial-recognition-around-the-world_6744911_13.html)、亚洲 (https://www.biometricupdate.com/202510/facial-recognition-strengthens-security-for-asias-expanding-rail-metro-sector-panel) 和 非洲 (https://www.theafricareport.com/420018/facial-recognition-ai-driven-surveillance-how-china-is-exporting-its-toolkit-to-africa/) 进行实验。根据一份新报告 (https://notechforice.com/wp-content/uploads/2026/06/Tech-Behind-ICE-Oligarchs-Immigration-Enforcement-and-the-Threat-to-Democracy.pdf),美国国土安全部正迅速增加其基于AI的监控使用,包括人脸识别和社交媒体账户监控,以监视移民、异议人士、记者、法律观察员和抗议者。虽然这些系统表面上用于维护安全和公共安全,但其真正目的往往是社会控制。甲骨文公司(一家与特朗普政府密切合作的强大科技巨头)CEO拉里·埃里森曾表示 (https://www.theregister.com/software/2024/09/16/oracle-cloud-ai-will-enable-mass-surveillance-says-ellison/516672):"因为我们在持续记录和报告,公民将会表现最佳。" 寒蝉效应正是其关键所在。 AI 监控引发了一系列公共政策挑战:技术偏见、不可审计的系统,以及僵化的自动法律和社会规则执行,这些可能助长歧视,破坏透明度、问责制和法治。但我们认为,其最紧迫、最长远的影响将是更广泛的寒蝉效应。 在一本新书《寒蝉效应:数字时代的压制、顺从与权力》(Chilling Effects: Repression, Conformity, and Power in the Digital Age) (https://www.cambridge.org/core/books/chilling-effects/22383D541B3BC45C9145E85DA4824E10#fndtn-metrics)中,Jon Penney解释了监控、技术和权力如何被武器化以大规模影响行为。监控、个性化、不确定性和权威都是增强寒蝉效应规模和影响的关键机制。它们导致人们自我审查言行,变得更加顺从和服帖,从而更容易被管理和控制。而且这些效应是叠加的:使用的机制越多,形式越强大,寒蝉效应就越严重。 长期以来,计算机化使得数据收集者能够追踪我们的位置,收集我们与谁通信的列表,并监控我们的消费习惯——除非我们使用现金。新鲜的是这些机制前所未有的融合,持续且无情。AI 带来了分析能力,能够监视 (https://slate.com/technology/2023/12/ai-mass-spying-internet-surveillance.html) 我们通信的内容,并对我们的行踪和活动提出复杂的问题:以前需要人工分析师完成的行为现在已自动化。结果将是一种超强的社会层级的寒蝉效应,恐惧、自我审查和群体思维占据主导,而异见、创造力和创新则变得愈发罕见。 在这种恐惧和顺从的氛围中,有风险的想法、社会 activism 和自我重塑——尤其是来自不受欢迎群体和受针对人群的——也受到了压制 (https://www.lgbtqnation.com/2026/01/publishers-are-stepping-back-from-lgbtq-books-amid-bans-the-current-gop-president/)。这将对 社会进步 产生长期影响 (https://www.schneier.com/essays/archives/2018/11/surveillance_kills_f.html)。 想想近几十年来同性关系和大麻娱乐性使用的社会正常化。几十年来,这些观念从既违背道德又违法,缓慢发展到道德上可接受但依然违法,最终到既道德又合法。但要让这一切发生,必须先有一个反文化群体能够进行实验,并最终向世界证明道德可以随着时间的推移而改变。如果AI监控压制了这种在公共或私密场合的实验,社会进步就不可能实现。 历史上并没有真正的先例;这些技术太新了。即使美国历史上最臭名昭著的大规模 国内监控计划 (https://www.bbc.com/news/world-us-canada-48218827)——联邦调查局在20世纪50年代和60年代使用 (https://nsarchive.gwu.edu/briefing-book/intelligence/2020-06-25/spying-americans-new-release-infamous-huston-plan) 窃听、拆检实物邮件、线人和纸质索引卡来追踪所谓的共产主义者——在如今增强型AI监控面前也显得极其过时。冷战时期东德以人为中心的监控网络也是如此。只有乔治·奥威尔或奥尔德斯·赫胥黎等人的科幻小说才能接近描述。但即便如此,“老大哥”的“电幕”(telescreen) (https://bookanalysis.com/1984/telescreen/) 相比之下也明显带有20世纪中期的色彩。 但我们不必坐以待毙。既然我们已经认识到增强型AI大规模监控的危险,我们可以做出政策选择,不去实施它。禁止人脸识别和其他身份识别技术可以减缓发展;强有力的新隐私和数据保护措施可以限制数据追踪和留存;AI法规可以遏制其最具侵入性的用途;结构性改革可以帮助我们审查并拆解那些为AI监控等技术过度行为铺路的强大国家/科技卡特尔。 AI 驱动的大规模监控的寒蝉效应将扼杀健康民主社会的根基。但我们仍然可以选择另一条道路。 *本文与 Jon Penney 合著,最初发表于《卫报》(The Guardian) (https://www.theguardian.com/commentisfree/2026/jul/06/ai-surveillance-policy)。* 标签:AI (https://www.schneier.com/tag/ai/),LLM (https://www.schneier.com/tag/llm/),隐私 (https://www.schneier.com/tag/privacy/),监控 (https://www.schneier.com/tag/surveillance/) 发表于 2026年7月10日 上午7:02 (https://www.schneier.com/blog/archives/2026/07/ai-surveillance-and-social-progress.html) • 13条评论 (https://www.schneier.com/blog/archives/2026/07/ai-surveillance-and-social-progress.html#comments) 侧边栏照片:布鲁斯·施奈尔,由 Joe MacInnis 拍摄。