标签
斯坦福HAI报告指出，由于算法单一文化，AI招聘工具可能导致种族偏见和系统性拒绝，这是因为相似的模式导致了广泛的歧视。
本文对四个美国城市的七种开放权重和闭源大语言模型进行了行为审计，发现住房推荐中的种族引导是模型解释权的涌现行为，随用户身份和城市背景而变化。
这项覆盖156家雇主、340万求职者的大规模研究揭示，来自单一供应商的招聘算法中的算法单一文化导致了种族差异和系统性拒绝，其中25.87%的黑人求职者和14.74%的亚裔求职者受到不利影响。
X更新翻译功能后，中文创作者社区流量普遍下降，算法偏向英文内容导致中文内容难以被全球用户看到，可能对依赖中文区创作的产业造成冲击。
一份研究论文，分析了招聘中的算法单一文化——即许多雇主使用同一供应商的筛选算法——会导致系统性地拒绝相同的个人和种族群体，使用了300万申请人的数据集。
文章认为，AI 可以通过优化社会整体结果而非个人利益，从而解决政治低效问题，同时也承认了操纵和威权主义带来的重大风险。