解决“打地鼠困境”：一种更智能的 AI 视觉模型去偏方法

# 解决“打地鼠困境”：更智能的去偏 AI 视觉模型方法 来源：https://news.mit.edu/2026/smarter-way-to-debias-ai-vision-models-0429 在当今的医院和诊所中，皮肤科医生可能会使用人工智能模型对皮肤病变进行分类，以评估该病变发展为癌症的风险或是否为良性。但如果模型对某些肤色存在偏见，它可能无法识别出高风险患者。 人工智能研究持续面对且尚未完全解决的最佳已知且最持久的挑战之一便是偏见。偏见通常在训练数据的背景下进行讨论，但模型架构也可能包含并放大偏见，从而对模型在现实世界中的表现产生负面影响。在高利害的医疗场景中，性能不佳所带来的真实后果使偏见成为一个典型的安全问题。 来自麻省理工学院（MIT）、伍斯特理工学院（Worcester Polytechnic Institute）和 Google 的研究人员的一篇新论文（https://openreview.net/pdf?id=tkE29O0jzF）已被 2026 年国际学习表征会议（International Conference for Learning Representations）接收，提出了一种名为“加权旋转去偏”（Weighted Rotational DebiasING，简称 WRING）的新型去偏方法，该方法可应用于如 OpenAI 的 OpenCLIP 等视觉语言模型（VLMs）。 视觉语言模型是多模态模型，能够同时理解和解释视频、图像和文本等不同数据模态。虽然针对视觉语言模型的去偏方法确实存在，但最常用的方法被称为“投影去偏”（projection debiasing），这导致了被称为“打地鼠困境”（Whac-A-Mole dilemma）（https://arxiv.org/abs/2212.04825）的现象，这是一种于 2023 年正式引入人工智能研究的实证观察。 投影去偏是一种后处理方法，通过从关系表征空间中“投影”出子空间来去除模型嵌入中不需要的、有偏见的信息，从而消除偏见。但这种方法有其缺点。 “当你这样做时，你无意中挤压了周围的一切，”该论文的第一作者沃尔特·格里奇（Walter Gerych）说道，他去年在麻省理工学院担任博士后期间进行了这项研究。“当你这样做时，模型学到的所有其他关系都会发生变化。” 格里奇现在是伍斯特理工学院的计算机科学助理教授，与他共同撰写该论文的有麻省理工学院研究生卡珊德拉·帕伦特（Cassandra Parent）和奎因·佩里安（Quinn Perian）；Google 的 Rafiya Javed；以及麻省理工学院电气工程专业助理教授贾斯汀·所罗门（Justin Solomon）和玛兹耶·加塞米（Marzyeh Ghassemi）（https://jclinic.mit.edu/team-member/marzyeh-ghassemi/），她是阿卜杜勒·拉蒂夫·贾米尔机器学习与健康诊所（https://jclinic.mit.edu/）和信息与决策系统实验室的成员。 虽然投影去偏阻止了模型对在子空间中被投影出去的偏见采取行动，但它最终可能会放大并产生其他偏见，因此出现了“打地鼠困境”。根据加塞米的说法，模型偏见的无意放大“既是技术挑战，也是实际挑战。例如，在对检索临床工作人员图像的视觉语言模型进行去偏时——如果种族偏见被移除——它可能会无意中导致性别偏见的放大。” WRING 的工作原理是移动模型高维空间中的某些坐标——那些看似负责偏见的坐标——到不同的角度，使模型不再能够区分特定概念内的不同群体。这改变了特定空间内的表征，同时保持模型的其他关系完整。与投影去偏一样，WRING 也是一种后处理方法，这意味着它可以“即时”应用于预训练的视觉语言模型。 “人们已经花费了大量资源、大量金钱来训练这些巨大模型，我们并不真的想在训练过程中修改某些东西，因为那样你就得从头开始，”格里奇解释道。“[WRING] 非常高效。它不需要对模型进行更多训练，而且侵入性最小。” 在他们的研究结果中，研究人员发现，WRING 显著减少了目标概念的偏见，而没有增加其他领域的偏见。但就目前而言，这种方法在一定程度上仅限于对比语言-图像预训练（CLIP）模型，这是一种将图像与语言联系起来以进行搜索或分类的视觉语言模型。 “将这种方法扩展到类似 ChatGPT 的生成式语言模型，是我们合理的下一步，”格里奇说道。 这项工作部分得到了美国国家科学基金会（NSF）CAREER 奖、AI2050 奖早期职业研究员奖学金、斯隆研究学者奖（Sloan Research Fellow Award）、戈登和贝蒂·摩尔基金会奖（Gordon and Betty Moore Foundation Award）以及麻省理工学院-Google 计算创新奖的支持。