基于核Fisher判别分析的树集成分类器:KFDA Forest

arXiv cs.LG 论文

摘要

提出了一种基于树的集成分类器KFDA Forest,它应用核Fisher判别分析进行旋转,通过Bootstrap和随机变量子集促进多样性,提高了分类精度。

arXiv:2606.29053v1 Announce Type: new 摘要:通常,集成分类器比单个分类器更准确。在本研究中,我们提出了一种称为核Fisher判别分析森林(KFDA Forest)的集成分类器,它是一种基于树的集成方法,应用KFDA。为了促进多样性,使用Bootstrap,并将变量集随机划分为K个子集。对每个子集执行KFDA以提高分类精度。KFDA最大化类间距离,同时最小化类内距离。KFDA还可以通过核技巧应用于非线性数据结构中的分类问题,因为它可以将输入空间变换为核特征空间(通常称为旋转),而不是执行降维。由于新的特征轴与KFDA投影平行,因此使用决策树作为基分类器。为了将所提方法与现有集成方法进行比较,我们将它们应用于来自UCI和KEEL存储库的真实数据集。
查看原文
查看缓存全文

缓存时间: 2026/06/30 05:31

# 基于核Fisher判别分析的树集成分类器:KFDA森林
来源:https://arxiv.org/abs/2606.29053
查看PDF (https://arxiv.org/pdf/2606.29053)

> 摘要:通常情况下,集成分类器比单一分类器具有更高的准确性。在本研究中,我们提出了一种称为核Fisher判别分析森林(KFDA Forest)的集成分类器,这是一种基于树的集成方法,应用了KFDA。为提升多样性,我们使用自助采样法(bootstrap),并将变量集随机划分为K个子集。对每个子集执行KFDA以提高分类精度。KFDA在最大化类间距离的同时最小化类内距离。KFDA还可通过核技巧应用于非线性数据结构中的分类问题,因为它能将输入空间变换为核特征空间(通常称为旋转),而非执行降维。由于新特征轴与KFDA投影方向平行,因此采用决策树作为基分类器。为将所提方法与现有集成方法进行比较,我们将这些方法应用于UCI和KEEL存储库的真实数据集。

## 提交历史

来自:Donghwan Kim [查看邮件](https://arxiv.org/show-email/5d4eb77e/2606.29053) **\[v1\]** 2026年6月27日星期六 19:24:34 UTC (796 KB)

相似文章

基于线性判别树集合的可解释多模态分类

arXiv cs.AI

本文提出了一种基于线性判别树集合的可解释多模态分类框架,该框架在准确性和可解释性之间取得平衡,在F1-mod增益和人工标注者一致性分数上优于Transformer模型。

Uncertainty-Aware Ensemble Deep Randomized Neural Networks for Classification

arXiv cs.LG

The paper proposes intuitionistic fuzzy deep RVFL (IF-dRVFL) and ensemble deep RVFL (IF-edRVFL) frameworks that use sample neighborhood information to improve robustness against noise and outliers in classification tasks, outperforming existing SOTA fuzzy and non-fuzzy approaches on benchmark datasets.

用于特征选择的条件推断树与森林

arXiv cs.LG

本文研究了用于特征选择的条件推断树与森林,结果表明CIF在17种分类方法中排名第4,在18种回归方法中排名第3。运行时消融实验显示,自适应停止和阈值搜索对运行时间影响最大,但对下游评分影响极小。