标签
本文挑战了平衡数据集以避免虚假相关性的标准做法,表明在涉及两层Transformer的合成求和奇偶性任务中,高数据不平衡(虚假比率0.9)促进了鲁棒泛化,而低不平衡(0.5)则阻碍了它,其机制是通过捷径饱和。
提出FedEAS,一种用于联邦学习中合成数据增强的预算感知策略,为每个客户端分配一个熵自适应的每类生成预算,在将生成成本降低94.1%的同时,恢复大部分完全类别平衡的准确性增益。
本文系统评估了五种不平衡处理方法(RUS、ROS、SMOTE、重加权、直接F1优化)在三个生物医学数据集(表格、文本、图像)上使用不同复杂度模型的效果。结果表明,收益取决于模型复杂度和数据模态,其中ROS、重加权和直接F1优化对非结构化数据上的复杂模型有效。