标签
本文研究了用于稀疏分布式内存的Rank-Order N-of-M编码，通过分离表示与学习效应来评估噪声鲁棒性，并与当代神经形态架构进行比较。
引入能量守恒作为模块化神经网络中模块间信息流的硬物理约束，强制在模块边界精确保持激活能量，以减弱错误传播。在CIFAR-10和机器人管道上的实验显示出噪声鲁棒性的显著提升。
EchoDistill 是一种基于对齐的噪声到干净的自蒸馏框架，通过使用冻结的干净音频教师模型，利用组相对策略优化 (GRPO) 指导学生模型，从而提高音频大语言模型 (ALLMs) 在现实噪声下的鲁棒性。实验表明，在强噪声下，该方法显著提升了语义可靠性和任务性能，且无需额外推理成本。