标签
本文分析了特征降维技术(主成分分析、置换重要性排序、递归特征消除、单变量互信息)如何影响经典机器学习分类器在投毒攻击、后门攻击和通用对抗扰动攻击下的对抗鲁棒性,发现置换重要性排序和单变量互信息带来的鲁棒性提升最为稳定。
LightTAR 是一种轻量级方法,通过正则化偏最小二乘法从最终层和中间层中提取少量目标感知特征,用于增强对冻结编码器嵌入进行的标准 PCA 降维,从而以极低的额外运行时开销,提升 21 种表格模型在 MulTaBench 数据集上的预测性能。
该论文提出了平滑秩 t-SNE(SR-tSNE),这是一种 t-SNE 变体,通过可微的 sigmoid 秩项保留近邻的排序,并提出了序数 DLP 指标;该方法在八个基准测试中优于 12 种基线方法,并提升了标签迁移、单细胞聚类和算法交易等下游任务的表现。
提出基于局部本征维数(LID)的无监督特征选择方法LIDFS,通过对特征点进行最大似然LID估计排序特征,在23个高维数据集上取得领先的分类与聚类性能,且运行速度快于最接近的竞品方法。
该论文提出带误差证书的切片 Wasserstein 草图方法,通过一维最优加权 MM-原子量化并扩展到高维切片,将平方距离误差精确分解为残差与分区不匹配项,从而为任意质心草图提供可计算的误差保证,在文档、点云和流式细胞术基准上以更少存储保持了原始切片距离的分类性能。
本文表明,Johnson–Lindenstrauss引理在高维情况下可能对保留的几何结构无法提供信息,并推导了高斯模型中距离恢复、最近邻排序和协方差形状等特性的精确界限。
Entropy Scree 是 PCA 的信息论升级版,用于在杂乱的表格数据上进行稳健的秩估计和降维,代码已开源,预印本已发布。
Entropic Scree 是一种非参数、基于信息论的诊断框架,用于在复杂表格数据中映射内在秩与信息引力,解决了标准 PCA 和其他基线的局限性。
本文研究了通过逐行幂变换平滑t-SNE中的亲和矩阵如何影响邻域保持,发现锐化改善最近邻的保持,而平滑增强更广泛的局部邻域。
本文提出了一个统一的几何框架,用以理解 t-SNE 和 UMAP 等可微嵌入,表明现有的诊断方法源自同一个几何对象,并提出了新的基于曲率和积分路径的信任度量。
本文研究了使用Whisper进行波斯语语音情感识别,表明基于PCA的降维方法提升了性能和效率,而ASR微调仅带来有限的改进。
本文系统比较了表格基础模型(TabPFN)与经典回归方法在85项土壤光谱任务中的表现,发现TabPFN结合PLSR衍生特征在从田间尺度到全球光谱库的预测性能上均达到最优。
FADEx 提出了一种新颖的局部逐实例特征归因方法,用于解释降维技术,利用泰勒展开和奇异值分解提供模型无关的解释和失真分析。
FloDR是一种基于归一化流的降维方法,可生成可逆嵌入,同时保留局部和全局结构,并提供如条件扩展和隐藏对比等诊断工具。
CLOE是一种新的半监督异常检测方法,结合了自编码器与基于Christoffel函数的检测器,通过一种新颖的损失函数来改进表示学习。该方法在高维表格数据上取得了最先进的结果,同时保持了简单性。
本文介绍了ODIN,一种新颖的自编码器架构,它强制潜在维度正交并按照重要性排序,在全非线性条件下恢复类似PCA的可解释性。该方法将几何约束集成到训练目标中,具有理论依据,并在合成数据集和真实数据集上进行了实证验证。
提出了一种将图嵌入高维空间并搜索信息性二维视角的方法,这些视角优化了美学和可读性指标(例如边交叉和角分辨率),这得益于一种新颖的边交叉可微替代方法。引入了一个交互式系统DataFly,用于探索多个候选视角。
提出了GraphDR-LinUCB方法,一种面向具有图结构臂的上下文赌博机方法,该方法将特征投影到图的低频频谱子空间上。实现了首个基于频谱投影的上下文赌博机的遗憾界,并在真实数据集上相比全维度LinUCB实现了15倍的遗憾值降低。
本文提出了利用Schur补和Sylvester行列式恒等式的精确降维方法,将非平滑NML估计中每步的计算复杂度从O(N^3)降低到O(k^3+N^2k),在保持数值精度的同时实现了超过14,000倍的加速。