标签
本文提出SIGMA,一个用于协作多智能体强化学习的层次化协作框架,通过基于密度的分组和聚合方法,利用协作结构在噪声观测下学习鲁棒表示。
研究发现,神经语言模型在单词级噪声下退化相似,但在字符级噪声下退化不同,分词被确定为关键隐藏变量。它提供了一种无需噪声评估即可预测模型鲁棒性的方法,并建议通过噪声增强训练来提升鲁棒性。
ER-KAN 是一种新的 Kolmogorov-Arnold 网络变体,专为数据稀缺且有噪声的科学机器学习设计,在鲁棒性和效率方面优于现有 KAN 变体。
The paper introduces Weak-Pareto, a method that uses adjoint-consistent weak formulations and Pareto-based subset selection to discover fractional differential equations from noisy data, recovering parsimonious structures robustly across benchmarks.
本文识别出扩散语言模型中的“表征置信度差距”:内部状态能准确检测输入噪声,但报告的置信度在高噪声下仍保持高位,答案排序能力下降。本文引入了一种轻量级、无需训练的信息提取工具,利用隐藏状态改进排序,而无需修改基础模型。
本文研究了用于稀疏分布式内存的Rank-Order N-of-M编码,通过分离表示与学习效应来评估噪声鲁棒性,并与当代神经形态架构进行比较。
引入能量守恒作为模块化神经网络中模块间信息流的硬物理约束,强制在模块边界精确保持激活能量,以减弱错误传播。在CIFAR-10和机器人管道上的实验显示出噪声鲁棒性的显著提升。
EchoDistill 是一种基于对齐的噪声到干净的自蒸馏框架,通过使用冻结的干净音频教师模型,利用组相对策略优化 (GRPO) 指导学生模型,从而提高音频大语言模型 (ALLMs) 在现实噪声下的鲁棒性。实验表明,在强噪声下,该方法显著提升了语义可靠性和任务性能,且无需额外推理成本。