ReCBM：面向概念瓶颈模型的不确定性门控关系推理

# ReCBM: 面向概念瓶颈模型的不确定性门控关系推理  
Source: https://arxiv.org/html/2608.10004  

###### 摘要

概念瓶颈模型（CBMs）通过将预测建立在人类可理解的概念之上，提供了一个可解释的框架，支持语义检查和测试时干预。近期的变体通过更丰富的概念表示、不确定性估计和依赖建模改进了CBM。然而，在不可靠的概念状态下进行稳健推理仍未得到充分探索。若缺乏这种推理，误导性的语义证据可能穿过瓶颈传播，损害解释和下游预测。为解决这个问题，我们提出了ReCBM，一个面向CBM的不确定性门控关系推理框架。ReCBM将语义定义的概念关系引入瓶颈，并利用不确定性来指导其精化。通过建模共现、蕴含和互斥，ReCBM规定了概念之间如何交换证据，同时不确定性在过程中调节每个概念的贡献。在不同数据集的实验表明，ReCBM在概念缺失和翻转的情况下改善了概念和任务恢复，支持不确定性感知干预，并在不降低下游性能的情况下提取了紧凑的任务相关概念子集。

## 1 引言

深度神经网络大幅推进了广泛的应用，但它们的预测很少基于明确的、人类可验证的证据（LeCun et al. 2015 (https://arxiv.org/html/2608.10004#bib.bib1)；Rudin 2019 (https://arxiv.org/html/2608.10004#bib.bib3)；Lipton 2018 (https://arxiv.org/html/2608.10004#bib.bib2)）。概念瓶颈模型（CBM）通过将预测路由到人类可解释的概念，解决了这一局限，使得决策更加透明和可编辑（Koh et al. 2020 (https://arxiv.org/html/2608.10004#bib.bib9)）。然而，这种接口仅在所暴露的概念状态可靠时才有用。在实践中，概念预测可能是噪声的、缺失的或不一致的，而用于纠正它们的人类反馈可能不完整或不确定（Park et al. 2025 (https://arxiv.org/html/2608.10004#bib.bib4)；Shin et al. 2023 (https://arxiv.org/html/2608.10004#bib.bib8)）。由此产生的概念状态因此可能仍然不可靠，损害下游预测和向用户呈现的解释。稳健的CBM因此应当能够利用剩余的可靠证据来恢复缺失或被识别为不可靠的概念状态。

恢复不可靠的概念状态需要确定哪些概念可以被信任，并利用它们推断其余概念。概念级不确定性提供了可靠性信号，而概念间的依赖允许可靠状态支持缺失或不可靠概念的恢复。为了使这一过程保持可解释性，这些依赖应区分语义关系，如共现、蕴含和互斥，这些关系为概念精化提供了不同形式的证据（Deng et al. 2014 (https://arxiv.org/html/2608.10004#bib.bib5)；Li et al. 2015 (https://arxiv.org/html/2608.10004#bib.bib6)；Xiong et al. 2022 (https://arxiv.org/html/2608.10004#bib.bib7)）。关键在于，可靠性和关系推理必须联合运作：不确定性应调节哪些概念传播证据，哪些概念接受纠正。在交互式设置中，当真实概念值不可用时，同一机制还应容纳可靠性反馈。如表1 (https://arxiv.org/html/2608.10004#S1.T1) 所示，现有的CBM扩展提供了不确定性估计或依赖建模（Kim et al. 2023 (https://arxiv.org/html/2608.10004#bib.bib14)；Vandenhirtz et al. 2024 (https://arxiv.org/html/2608.10004#bib.bib15)；Xu et al. 2024 (https://arxiv.org/html/2608.10004#bib.bib16), 2026 (https://arxiv.org/html/2608.10004#bib.bib17)），但缺乏通过语义定义的关系进行不确定性引导恢复的统一机制。为填补这一空白，我们提出了ReCBM，一个不确定性门控关系推理框架，用于提高CBM的鲁棒性。ReCBM将概念关系与概念级不确定性相结合：可靠概念提供关系证据，而不可靠概念被阻止传播错误，并可以利用相关概念的证据进行纠正。一种证据感知的锚点（anchor）在关系支持不足时保留置信的预测。这一设计实现了可解释的概念恢复，同时支持不确定性感知干预和紧凑概念子集提取。

| 方法 | Un. | De. | Se. | U-ref. | U-int. |
|------|-----|-----|-----|--------|--------|
| CBM (Koh et al. 2020 (https://arxiv.org/html/2608.10004#bib.bib9)) | × | × | × | × | × |
| CEM (Zarlenga et al. 2022 (https://arxiv.org/html/2608.10004#bib.bib10)) | × | × | × | × | × |
| ProbCBM (Kim et al. 2023 (https://arxiv.org/html/2608.10004#bib.bib