标签
本文审计了自动化信用违约预测中基于置信度的标签过滤，揭示了收入条件相关的召回率差异，并表明当代理变量和制度性偏见持续存在时，仅对模型遮蔽敏感属性并不能消除公平差距。
Ars Technica 报道了基于 AI 的内容审核的局限性，强调了对边缘群体的偏见以及人工监督的必要性，同时提到 Reddit 扩展 Rules Hub 以赋予人工版主更多控制权。
斯坦福HAI报告指出，由于算法单一文化，AI招聘工具可能导致种族偏见和系统性拒绝，这是因为相似的模式导致了广泛的歧视。
本文对四个美国城市的七种开放权重和闭源大语言模型进行了行为审计，发现住房推荐中的种族引导是模型解释权的涌现行为，随用户身份和城市背景而变化。
这项覆盖156家雇主、340万求职者的大规模研究揭示，来自单一供应商的招聘算法中的算法单一文化导致了种族差异和系统性拒绝，其中25.87%的黑人求职者和14.74%的亚裔求职者受到不利影响。
X更新翻译功能后，中文创作者社区流量普遍下降，算法偏向英文内容导致中文内容难以被全球用户看到，可能对依赖中文区创作的产业造成冲击。
一份研究论文，分析了招聘中的算法单一文化——即许多雇主使用同一供应商的筛选算法——会导致系统性地拒绝相同的个人和种族群体，使用了300万申请人的数据集。
文章认为，AI 可以通过优化社会整体结果而非个人利益，从而解决政治低效问题，同时也承认了操纵和威权主义带来的重大风险。