明日人权始于今日AI选择

# 明日人权始于今日AI抉择 来源：https://www.eurac.edu/en/blogs/imagining-futures/the-human-rights-of-tomorrow-start-with-the-ai-choices-we-make-today 明日人权始于今日AI抉择 图片来源：UnsplashH&CO 版权所有 由AI驱动的未来民主所面临的最大危险在于，人权侵犯最初可能永远感觉不像侵犯。它们悄然而至，伪装成效率与便利。 2014至2020年间，在荷兰某处，普通民众照常生活，却不知政府已悄然将他们标记为可疑对象。既无通知，也无解释，只有一个评分。据AlgorithmWatch (https://algorithmwatch.org/en/syri-netherlands-algorithm/) 报道，*SyRI*风险评估系统本为追查福利欺诈而建，通过交叉比对税务、就业及住房记录识别可疑案例。该系统主要部署于低收入社区，将贫困本身重塑为风险指标，视居住地点与贫困程度为不当行为的证据。2020年海牙法院终止*SyRI*时裁定，该系统违反《欧洲人权公约》第八条，指出立法透明度不足且缺乏充分的隐私保护机制。 ## 当效率成为人权问题 > 人工智能一旦进入公共机构，便不仅仅执行决策。它们逐渐重塑决策的形态、决策主体、证据合法性标准，以及受影响人群的申诉空间。——Michaela Jamelska ## 谁来判定何人可疑？ > 当公共机构发现影响百万人群的系统存在偏见，而首要反应却是压制信息时，这实则是基于一种权衡：保护自身基础设施比纠正对民众的伤害更重要。这不仅是AI的人权失误，更是管理者的责任失职。——Michaela Jamelska ## 不可读的权利 > 民主社会始终依赖人们某种程度的模糊性——允许个人矛盾、失败、重来，而不会立即被行政体系视为可疑。AI系统正与此原则背道而驰。——Michaela Jamelska > 对AI系统问责，并非承诺系统永远完美运行，而是明确谁有权察觉系统异常。——Michaela Jamelska 人权治理如今常表现为被动应对模式。预见未来变化至关重要，因为当AI改变公共管理、劳动力市场乃至整个经济体系时，这些系统承载的社会规范可能已成为新基准——隐形、默认、难以撼动。这种转变之所以隐蔽，正是通过便利、效率与优化实现。其语言看似无害，却在心理层面重构了机构与个体间的道德关系。 ## 让责任落地生根 #### 联合国教科文组织讲席研究员项目 Michaela Jamelska #### Michaela Jamelska ### 让研究被看见 发现本篇博文背后的关联专家、项目、出版物及研究领域 Eurac Research标识 Eurac Research是位于博尔扎诺（南蒂罗尔）的私营研究中心，汇聚全球多元科学领域的研究者。他们通过科学知识与研究，共同致力于塑造未来。 No Woman No Panel