标签
本文探讨今日AI选择如何影响未来人权，以荷兰SyRI风险分析系统为例，该系统在追求效率和优化过程中引发隐私侵犯与人权问题。
本研究审计CLIP模型在大都会艺术博物馆艺术品元数据中的性别偏差，发现无统计学显著偏差，但强调在AI公平性评估中需进行多变量混淆控制。
本研究考察了大型语言模型如何根据社区名称与坐标来判断城市安全，揭示了名称既承载犯罪信号又承载人口统计偏差，且偏差随地理知识扩展。
本文审计了自动化信用违约预测中基于置信度的标签过滤，揭示了收入条件相关的召回率差异，并表明当代理变量和制度性偏见持续存在时，仅对模型遮蔽敏感属性并不能消除公平差距。
Ars Technica 报道了基于 AI 的内容审核的局限性，强调了对边缘群体的偏见以及人工监督的必要性，同时提到 Reddit 扩展 Rules Hub 以赋予人工版主更多控制权。
斯坦福HAI报告指出，由于算法单一文化，AI招聘工具可能导致种族偏见和系统性拒绝，这是因为相似的模式导致了广泛的歧视。
本文对四个美国城市的七种开放权重和闭源大语言模型进行了行为审计，发现住房推荐中的种族引导是模型解释权的涌现行为，随用户身份和城市背景而变化。
这项覆盖156家雇主、340万求职者的大规模研究揭示，来自单一供应商的招聘算法中的算法单一文化导致了种族差异和系统性拒绝，其中25.87%的黑人求职者和14.74%的亚裔求职者受到不利影响。
X更新翻译功能后，中文创作者社区流量普遍下降，算法偏向英文内容导致中文内容难以被全球用户看到，可能对依赖中文区创作的产业造成冲击。
一份研究论文，分析了招聘中的算法单一文化——即许多雇主使用同一供应商的筛选算法——会导致系统性地拒绝相同的个人和种族群体，使用了300万申请人的数据集。
文章认为，AI 可以通过优化社会整体结果而非个人利益，从而解决政治低效问题，同时也承认了操纵和威权主义带来的重大风险。