结合邻近树与集成学习扩展数据无关的关键实例选择模型

arXiv cs.LG 论文

摘要

本文提出了一种基于邻近树与集成学习的层次化、设计上可解释的关键实例选择模型。该模型与数据模态无关,并在表格、文本、图像和时间序列数据集上展现了具有竞争力的结果。

arXiv:2607.27522v1 公告类型:新 摘要:随着决策过程变得日益复杂,机器学习工具已成为应对商业和社会挑战的关键手段。然而,许多现有方法依赖于难以解释的决策过程。由于人类天然通过将新案例与少数代表性示例进行比较来做决策,我们旨在设计一种选择此类关键实例的方法,以构建可解释的预测模型。受决策树的启发,我们提出了一种基于关键实例与输入实例相似性的层次化、设计上可解释的关键实例选择模型。我们的方法既可作为关键实例选择技术,也可作为独立的预测模型。在单一关键实例的基础上,我们进一步纳入了邻近树和斜树所使用的关键实例对,以及集成方法,从而增强了所提模型的通用性和有效性。此外,我们的方法与数据模态无关,利用预训练网络进行数据转换。在包括表格数据、文本、图像和时间序列在内的多种数据集上的实验证明了我们方法的有效性,优于其他实例选择策略,并在保持最少关键实例数量的同时,与最先进的可解释模型相比取得了具有竞争力的结果。
查看原文
查看缓存全文

缓存时间: 2026/07/31 10:03

# 利用邻近树和集成学习扩展数据无关的关键实例选择模型
来源:https://arxiv.org/abs/2607.27522
查看 PDF(https://arxiv.org/pdf/2607.27522)

> 摘要:随着决策过程日益复杂,机器学习工具已成为应对商业和社会挑战的关键手段。然而,许多现有方法依赖于难以解释的决策流程。由于人类天然会通过将新案例与少数代表性示例进行比较来做决策,我们旨在设计一种选择此类关键点(pivots)的方法,以构建可解释的预测模型。受决策树启发,我们提出了一种基于关键点与输入实例相似性的分层、可解释性内置(interpretable-by-design)的关键点选择模型。我们的方法既可作为关键点选择技术,也可作为独立的预测模型使用。在单个关键点的基础上,我们进一步引入由邻近树(proximity trees)和斜树(oblique trees)使用的关键点对,以及集成方法,从而增强我们方案的通用性和有效性。此外,我们的方法具有数据模态无关性,利用预训练网络进行数据转换。在包括表格数据、文本、图像和时间序列在内的多种数据集上的实验表明,我们的方法有效,优于其他实例选择策略,并在保持最少关键点数目的同时,与最先进的可解释模型相比取得了有竞争力的结果。

## 提交历史

来自:Alessio Cascione [查看电子邮件](https://arxiv.org/show-email/2c03b06a/2607.27522) **[v1]** 2026年7月29日周三 23:23:01 UTC(3,934 KB)

相似文章

学习预测性模糊集以用于面向决策的分布鲁棒优化

arXiv cs.LG

提出学习预测性模糊集(LPAS)用于分布鲁棒优化,其中深度上下文模型输出名义情景分布、状态依赖的Wasserstein半径和基础度量,并通过决策损失和校准进行训练。应用于S&P 500数据的投资组合优化,该方法实现了更高的回报和夏普比率,同时相比于固定半径基线减少了保守性。