图像分类器中单连通决策区域的实证研究

Hugging Face Daily Papers 论文
computer-vision decision-regions topology image-classification interpretability

摘要

本文通过验证具有相同标签的图像之间的环路是否可以由保持标签不变的曲面填充，实证研究了图像分类器的决策区域是否为单连通区域。

理解决策区域的拓扑结构对于解释深度神经网络的内部运作至关重要。先前的实证研究提供了证据表明这些区域是路径连通的。我们研究了一个更强的拓扑问题：决策区域内的闭合环路是否可以在不离开该区域的情况下收缩。为此，我们提出了一种迭代四边形网格填充程序，该程序构建了一个有限分辨率的、保持标签不变的曲面，该曲面以给定环路为边界，且完全位于同一决策区域内。我们进一步将此构造与自然的Coons patch联系起来，以量化其相对于环路的规范几何插值的偏差。通过对几种现代图像分类模型评估我们的方法，我们提供了实证证据支持以下假设：深度神经网络中的决策区域不仅是路径连通的，而且是单连通的。
查看原文
查看缓存全文

缓存时间: 2026/05/11 07:19

Paper page - 图像分类器中单连通决策区域的实证证据

来源：https://huggingface.co/papers/2605.06380

我们通过实证研究，探讨图像分类器的决策区域在有限分辨率下是否呈现单连通性。

先前的研究已考察过决策区域的道路连通性（path-connectedness）。本文提出一个更强的拓扑学问题：给定四张具有相同预测标签的自然图像，它们形成的环路能否被一个保持标签不变的表面所填充？

我们的方法利用网格采样和局部决策边界修复技术，递归地构建并验证四边形网格表面。针对多个 ImageNet 分类器的实验提供了实证证据，与“决策区域是单连通的”这一假设相符。

相似文章

看见无形之物：图像分类到高级和抽象类别的调查

arXiv cs.CL

一份全面的调查论文，审视图像分类到高级和抽象类别的任务，通过对常识语义、情感语义、美学语义和解释语义的多学科分析，澄清了计算机视觉中高级语义的隐性理解。该论文指出了抽象概念图像分类中存在的持久挑战，强调了混合人工智能系统在处理复杂视觉推理任务中的重要性。