分区引导的距离显著性:在多目标优化中连接决策空间与目标空间

arXiv cs.LG 论文

摘要

提出分区引导的距离显著性(PGDS),一种新颖的多目标优化XAI框架,利用几何直觉解释决策变量如何影响目标空间接近度,在10目标基准测试和一个物理信息工程问题上得到验证。

arXiv:2606.30836v1 公告类型:新 摘要:多目标优化(MaO)中的可解释性目前受到帕累托前沿复杂度不断增加的阻碍,这导致高维决策变量与目标结果之间的关系日益模糊。当目标数量超出传统可视化极限时,决策者在识别相关权衡或在没有先验知识的情况下指定目标区域时会遭遇“认知干旱”。为了弥合这一可解释性鸿沟,我们引入了{Partition-Guided Distance Saliency (PGDS)}框架,这是一种专为连续优化景观设计的新型XAI方法。我们的框架通过一个三阶段流水线自动化解释过程,优先考虑几何直觉而非抽象规则。首先,我们采用一个代理模型,学习决策空间中的几何距离如何映射到目标空间中的接近度。其次,为解决高维下手动目标选择的困难,该框架自动将目标景观划分为不同区域,并识别局部``支配点''(Dominating Points)作为改进的自动化目标。第三,我们通过测量每个变量的扰动所引起的距离偏移,量化解的位置对每个决策变量的敏感度。这使得PGDS能够将特征分类为“驱动因素”(Drivers)——促进向偏好区域收敛,或“阻碍因素”(Blockers)——代表阻碍进一步进展的几何约束。在10目标基准测试和一个物理信息工程问题(焊接梁)上的验证表明,PGDS提供了传统可视化和基于规则的XAI方法无法提供的差异化、可操作的见解。
查看原文
查看缓存全文

缓存时间: 2026/07/01 05:32

# 划分引导距离显著性:多目标优化中决策空间与目标空间的桥梁
来源:https://arxiv.org/html/2606.30836
11institutetext:A3Data, 贝洛奥里藏特, 米纳斯吉拉斯州, 巴西
11email:claudio\.lucio@a3data\.com\.br
www\.a3data\.com\.br (https://arxiv.org/html/2606.30836v1/www.a3data.com.br)22institutetext:CEFET\-MG \- 米纳斯吉拉斯联邦技术教育中心, 贝洛奥里藏特, 米纳斯吉拉斯州, 巴西
22email:flaviocruzeiro@cefetmg\.br33institutetext:阿斯顿大学, 伯明翰, 西米德兰兹, 英国
33email:e\.wanner1@aston\.ac\.uk###### 摘要

多目标优化(MaO)中的可解释性目前受到帕累托前沿复杂度不断升高的阻碍,这导致高维决策变量与目标结果之间的关系变得愈发不透明。当目标数量超出传统可视化的极限时,决策者会在缺乏先验知识的情况下陷入“认知匮乏”,难以识别相关的权衡或指定目标区域。为弥合这一可解释性缺口,我们提出了划分引导距离显著性(PGDS)框架,这是一种专为连续优化场景设计的新型可解释人工智能方法。我们的框架通过一个三阶段流水线自动完成解释过程,优先考虑几何直觉而非抽象规则。首先,我们采用一个代理模型,学习决策空间中的几何距离如何映射到目标空间中的接近性。其次,为解决高维空间中手动选择目标的困难,该框架自动将目标景观划分为不同区域,并识别局部“支配点”作为改进的自动化目标。第三,我们通过测量每个决策变量受扰动引起的距离偏移,量化一个解的位置对每个决策变量的敏感性。这使得PGDS能够将特征分类为“驱动因素”(促进向偏好区域收敛)或“阻碍因素”(表示阻碍进一步进展的几何约束)。在10目标基准测试和一个基于物理的工程问题(焊接梁)上的验证表明,PGDS提供了差异化、可操作的见解,而传统可视化和基于规则的可解释人工智能方法无法提供这些见解。

## 1 引言

在多目标优化(MOO)领域,同时优化相互冲突的目标不会产生单一最优解,而是产生一组权衡解,即帕累托最优集。当目标数量增加到三个以上(通常称为多目标优化,MaO)时,问题空间的复杂度呈指数级增长。进化算法(EA),如非支配排序遗传算法(NSGA-III)[4 (https://arxiv.org/html/2606.30836#bib.bib4)]和基于分解的多目标进化算法(MOEA/D)[20 (https://arxiv.org/html/2606.30836#bib.bib20)],已被证明在近似这些帕累托前沿¹方面非常有效。然而,找到帕累托前沿的近似值只是更广泛决策过程的第一步。最终目标是帮助决策者(DM)从这一潜在庞大的解集中选择一个最偏好的单一解[12 (https://arxiv.org/html/2606.30836#bib.bib12)]。

¹帕累托前沿代表帕累托最优集到目标空间的映射。

在低维目标空间(两个或三个目标)中,散点图或平行坐标等可视化技术足以帮助决策者理解权衡。然而,在多目标场景中,这些传统可视化方法失效,使得决策空间(决策者控制的变量)与目标空间之间的关系愈发不透明[19 (https://arxiv.org/html/2606.30836#bib.bib19)]。在提供直观、可解释的见解方面存在重大缺口,这些见解需要解释为什么特定解位于目标空间的某个区域,以及决策变量的扰动如何影响其相对于期望目标的位置。

当前优化领域的可解释人工智能(XAI)研究通常依赖基于规则的机器学习模型来分类解或提取逻辑谓词[14 (https://arxiv.org/html/2606.30836#bib.bib14), 13 (https://arxiv.org/html/2606.30836#bib.bib13)]。虽然这些方法在离散分类中有效,但它们经常需要离散化连续景观,从而失去了精确工程设计或复杂资源分配所需的几何保真度。此外,它们通常给决策者带来沉重的认知负担,要求其先验地定义特定的“感兴趣”区域,而这在高维空间中并非易事。

为弥合这一缺口,本文探讨以下研究问题:

RQ1:如何在连续、多目标场景中弥合决策变量与目标结果之间的可解释性缺口,同时不损失几何保真度?

RQ2:我们如何自动发现高维目标空间中的“感兴趣区域”以指导决策者,而非完全依赖手动指定目标?

RQ3:基于距离的代理模型能否有效量化目标空间定位对决策变量扰动的敏感性?

为回答这些问题,我们提出了一种新颖框架:划分引导距离显著性(PGDS)。该方法将可解释性的概念从僵化的基于规则的分类器[13 (https://arxiv.org/html/2606.30836#bib.bib13)]中解耦出来,转而采用一种连续的、几何视角,尊重多目标景观的真实几何结构。我们的方法使用最小学习机(MLM)[18 (https://arxiv.org/html/2606.30836#bib.bib18)]构建一个完全基于距离矩阵的回归模型。这提供了一种计算高效的映射,复杂度为Θ(K²N),其中N表示存档中解的总数,K表示用于锚定几何结构的参考点子集。通过将这种几何映射与自动区域发现相结合,我们实现了输入(决策变量)与输出(目标函数)空间几何之间的映射。

我们提案的核心是对距离解释器方法的改编,该方法最初是为解释深度学习嵌入而开发的[11 (https://arxiv.org/html/2606.30836#bib.bib11)]。我们将这一概念扩展到优化中的表格型决策变量,从而生成显著性图,量化特定决策变量如何影响解在目标空间中与目标解之间的几何接近性。为解决多目标空间中目标选择的难题,我们引入了一种基于K维树(KD-Tree)[2 (https://arxiv.org/html/2606.30836#bib.bib2)]的自动划分策略。该策略将目标空间划分为超矩形区域,并在每个区块内识别“支配点”作为解释的自动目标。

本文其余部分结构如下:第2节回顾了交互式MOO/MaO的相关工作以及当前的可解释性方法。第3节详细阐述了我们的理论框架,包括MLM公式、KDTree划分以及距离解释器的改编。第4节在合成基准(DTLZ2、WFG3)和一个带约束的工程问题上进行了实验验证。最后,第5节总结全文并展望未来研究方向。

## 2 相关工作

本节回顾了多目标优化领域的现有文献、优化领域中可解释人工智能的当前状态以及新兴的基于距离的学习方法。我们围绕第1节中提出的三个核心研究问题展开讨论,为方便读者,在此复述:RQ1:在保持几何保真度的前提下弥合可解释性缺口;RQ2:自动发现感兴趣区域;RQ3:使用基于距离的代理模型进行敏感性分析。

### 2.1 多目标优化中的复杂性与可视化

多目标优化涉及同时优化一个通常相互冲突的目标向量F(x) = (f₁(x), ..., f_M(x))。解决这些问题的核心是帕累托支配概念:若解x_u在所有目标上不劣于解x_v,且至少在一个目标上严格优于x_v,则称x_u支配x_v(记为x_u ≺ x_v)[12 (https://arxiv.org/html/2606.30836#bib.bib12)]。优化器的最终目标是近似帕累托前沿(PF),即目标空间中所有非支配解的集合,代表最优权衡。

对于两个或三个目标的问题,非支配排序遗传算法II(NSGA-II)[5 (https://arxiv.org/html/2606.30836#bib.bib5)]等算法已成为标准,它们能在向PF收敛的同时有效保持多样性。然而,现实世界问题通常会扩展到四个或更多目标,这一领域称为多目标优化。在此类高维空间中,标准基于支配的方法的选择压力会消失,因为几乎所有解都变成非支配的。因此,专门算法如NSGA-III[4 (https://arxiv.org/html/2606.30836#bib.bib4)]和MOEA/D[20 (https://arxiv.org/html/2606.30836#bib.bib20)]被开发出来,分别通过参考点自适应和分解策略来处理这些场景。

然而,生成一个良好收敛的PF近似仅解决了计算方面的问题;决策瓶颈依然存在。正如Tušar和Filipič[19 (https://arxiv.org/html/2606.30836#bib.bib19)]所指出的,传统可视化技术在超过三维后便失效。为应对这一情况,实践者通常依赖为高维帕累托前沿改编的降维技术。这些技术包括使用主成分分析(PCA)映射解以识别主要冲突方向[21 (https://arxiv.org/html/2606.30836#bib.bib21)]、应用t分布随机邻域嵌入(t-SNE)对权衡区域进行聚类[22 (https://arxiv.org/html/2606.30836#bib.bib22)],或使用自组织映射(SOM)在低维网格中保留权衡曲面的拓扑结构[15 (https://arxiv.org/html/2606.30836#bib.bib15)]。虽然这些方法对聚类有用,但在将高维数据投影到2D时不可避免地引入失真[7 (https://arxiv.org/html/2606.30836#bib.bib7)]。这些投影往往无法保留全局距离关系或局部拓扑,使得决策变量(设计空间)与目标值(性能空间)之间的关系变得不透明。这种脱节凸显了对直接在高维几何上而非扭曲投影上操作的可解释性方法的需求。

### 2.2 可解释优化与目标选择瓶颈

为弥合不透明算法结果与人类理解之间的鸿沟,可解释人工智能(XAI)领域最近已扩展到进化计算。虽然SHAP[9 (https://arxiv.org/html/2606.30836#bib.bib9)]和LIME[17 (https://arxiv.org/html/2606.30836#bib.bib17)]等标准XAI方法通过量化特征贡献成功解释了预测模型,但将这些概念应用于优化带来了独特的挑战。与输出为离散类别的分类不同,优化涉及从连续的、可能无限的可行空间中选择一个决策向量。因此,近期文献区分了解释优化过程(诊断算法动态和算子贡献)[1 (https://arxiv.org/html/2606.30836#bib.bib1)]与解释解(提供为什么特定权衡是最优或偏好的理由)[10 (https://arxiv.org/html/2606.30836#bib.bib10)]。

我们的工作属于后一类,专注于最终帕累托前沿的事后分析。已经涌现出几个数据驱动的框架来解决这一问题。在交互式多目标优化的背景下,R-XIMO框架[14 (https://arxiv.org/html/2606.30836#bib.bib14)]改编了SHAP值,以量化决策者的期望水平(参考点)对实现的目标值产生的正面或负面影响。类似地,XLEMOO框架[13 (https://arxiv.org/html/2606.30836#bib.bib13)]采用学习模式来提取表征搜索空间中高质量区域的逻辑规则(例如IF-THEN谓词)。

然而,将这些方法应用于多目标问题时仍存在重大障碍(对应RQ1)。基于规则的分类器通常需要离散化连续变量,可能牺牲精密工程所需的细粒度几何保真度。此外,交互式框架严重依赖决策者来阐明初始偏好或选择参考点[12 (https://arxiv.org/html/2606.30836#bib.bib12)]。在高维MaO场景(M >> 3)中,决策者常常陷入“认知匮乏”,无法直观地可视化景观或指定关注区域。这产生了目标选择瓶颈:没有明确的目标,基于扰动的解释就无法有效锚定。为支持这一点(对应RQ2),我们提出超越手动指定。通过采用KD-Tree划分[2 (https://arxiv.org/html/2606.30836#bib.bib2)],我们的框架主动分割目标景观,提供局部的“支配点”作为自然的、数据驱动的解释目标。

### 2.3 基于距离的学习与扰动分析

第三条研究路径(RQ3)涉及生成有几何意义的解释的机制。虽然SHAP[9 (https://arxiv.org/html/2606.30836#bib.bib9)]和LIME[17 (https://arxiv.org/html/2606.30836#bib.bib17)]等标准扰动方法在解释标量预测或分类概率方面很强大,但它们本身并不建模解在多目标景观中的空间位移。为捕捉这种几何敏感性,我们借鉴了Meijer和Bos[11 (https://arxiv.org/html/2606.30836#bib.bib11)]为解释深度学习嵌入而提出的距离解释器方法。

该方法的一个关键组成部分是对随机输入采样用于解释(RISE)框架[16 (https://arxiv.org/html/2606.30836#bib.bib16)]的改编。RISE最初是为图像显著性设计的,它通过随机二元掩码探测黑盒模型,并聚合由此产生的模型输出退化来估计特征重要性。在我们的上下文中,我们将其重新定义为“距离偏移”的度量:我们将显著性定义为遮蔽一个决策变量导致解在目标空间中偏离目标的程度。

然而,将基于RISE的扰动直接应用于昂贵的评价函数在计算上是不可行的。

相似文章

DOG-DPO:面向安全对齐的几何动态优化

arXiv cs.LG

DOG-DPO 是一种无需训练的数据选择框架,它将偏好对视为结构化几何信号,将多数据集偏好几何分解为锚定子空间和残差子空间,以选择多样化的子集用于安全对齐。该框架在六个安全基准测试中仅使用 11% 的偏好对就实现了强大的效用-鲁棒性权衡。

xi-DPO:通过比率奖励边际的直接偏好优化

arXiv cs.LG

本文介绍了 xi-DPO,这是一种新颖的偏好优化方法,通过将目标重构为最小化与最优比率奖励边际的距离,解决了 SimPO 中的超参数调整难题。实验结果表明,xi-DPO 在开放基准测试中优于现有方法。

多目标优化中梯度聚合的统一框架

arXiv cs.LG

本文提出了一个多目标优化中梯度聚合的统一理论框架,建立了收敛到帕累托平稳性的速率。作者引入了一个充分对齐条件,并展示了其在现有算法和新算法(如 capped MGDA)中的应用。

GESD:超越结果导向的公平性

arXiv cs.LG

本文提出了GESD,一种面向过程的公平性度量,用于衡量不同子组之间解释稳定性的差异,并将其集成到一个多目标优化框架中,以联合优化效用、结果公平性和解释公平性。