公民卫生:避免开发可能被警察国家利用的技术(2013)
摘要
本文倡导在技术开发中实行'公民卫生',警告不要构建可能被未来政府滥用的系统,用于监控或压迫,并引用了数据收集和专家意见等例子。
暂无内容
查看缓存全文
缓存时间: 2026/08/19 19:10
# 数字公民卫生
来源:https://shkspr.mobi/blog/2013/11/civic-hygiene/
假设此刻政府想要记录每个人的性取向。他们声称需要这些详细的人口数据以进行城市规划——这将帮助他们规划性健康服务、预估新生儿数量、决定学校建设规模等。
你信任政府,曾投下选票,自己与朋友们在性取向方面无可隐瞒。
但!令人震惊的是!该数据库建立后,政府在选举中落败,英国独立党的恐同势力(http://www.mirror.co.uk/news/uk-news/ugly-face-ukip-sunday-mirror-1531879)上台执政!
如今他们掌握了全国同性恋者名单,可以肆意骚扰、试图"矫正",或将他们的生活推向地狱。
这听起来很夸张?其实不然。从卡梅伦荒谬的网络过滤计划,到互联网服务供应商能记录每次点击的"黑箱",再到将 NHS 医疗数据出售给私营机构——我们正处在恶意政府可能对我们造成严重伤害的境地中。
网络安全专家布鲁斯·施奈尔(Bruce Schneier)为 CNN 撰写了一篇精彩文章(https://www.schneier.com/essays/archives/2010/01/us_enables_chinese_h.html),阐述现有监控体系如何导致私人信息灾难性泄露。他的结语是:
> 建造可能被用来助纣为虐的技术,是糟糕的公民卫生行为。——布鲁斯·施奈尔 《CNN评论》(https://www.schneier.com/essays/archives/2010/01/us_enables_chinese_h.html)
我们必须确保所构建的系统不会轻易被滥用为作恶工具。诚然,若处心积虑,连无害的烤面包机都可能被武器化,但我们绝不应陷入制造"反噬系统"的陷阱。
建立车辆归属数据库或许是合理的——它具有重要民用价值且难以滥用(尽管并非完全不可能(http://www.bbc.co.uk/news/uk-wales-17166286))。
但我们是否应建立全国宗教信仰数据库?直觉告诉我们不行。法西斯独裁者的阴影萦绕在集体意识中。我们曾无数次目睹种族与宗教身份如何沦为死亡判决。我们决不能容忍此类系统。
公民卫生的本质并非表达对当前政府的不信任——**而是对*下一届*政府保持警惕**。
相似文章
计算机警察
一项调查,探讨向警察部门销售AI技术(包括面部识别、聊天机器人和自动报告撰写工具)日益增长的业务,以及对公民自由和警务实践的潜在影响。
政府人工智能中私有安全栈的弊端
文章批评了私有AI公司在军事AI系统中嵌入安全限制的做法,认为关于监视和自主武器的伦理决策应由民主机构而非私营企业做出。
AI监控与社会进步
布鲁斯·施奈尔探讨了由AI驱动的监控系统的兴起,这些系统能够追踪并立即惩罚轻微违规行为,警告这可能对个人自由和民主产生的寒蝉效应,并举了中国的例子以及全球日益增长的采用情况。
如果AI能比我们更敏锐地察觉社会中的有害模式,公司会警示我们吗?为何不直接对大众进行教育?
本文质疑AI公司是否应当公开其通过数据分析所发现的有害社会模式洞察,倡导以教育取代控制,助力社会进步。
AI与自由社会能共存吗?
本文质疑AI驱动的监控在何种程度上会与自由社会不相容,倡导加强对政府和公司监控的保护,并建议通过州级监管迫使联邦采取行动。