internal-activations

标签

Cards List
#internal-activations

通过内部激活的频谱分析检测神经网络故障

arXiv cs.LG · 2026-07-24 缓存

本文识别了神经网络在错误分类期间内部激活中的频谱漂移,并引入了自检测神经网络(SDNN),通过监控频谱动态来检测故障,在CIFAR-10上实现了79%的AUROC,比基于置信度的方法高出25-30个百分点。

0 人收藏 0 人点赞
#internal-activations

从语言模型轨迹中读取校准后的不确定性

arXiv cs.LG · 2026-05-25 缓存

本文介绍了一种校准语言模型不确定性的方法,该方法从每层MLP更新轨迹中提取十一个尺度不变几何特征,并将其输入稀疏线性探测器,在选择性弃权条件下比MSP表现更好,AURC分数最高提升21点。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈