标签
本文引入了双重评分,一种增强的得分空间参数化方法,用于从神经网络中提取强彩票子网络。该方法改进了edge-popup和初始剪枝基线,并降低了对稀疏性超参数的敏感性。
一篇研究神经网络超参数化成功原因的论文,比较了彩票假说与逃逸维度。
本文介绍了一种资源高效的修剪框架,该框架能够识别并移除大型语言模型中与不安全行为相关的参数,同时保持模型的实用性。该方法利用无梯度归因和彩票假说视角,在最小化性能损失的前提下,显著减少了不安全内容的生成,并增强了对越狱攻击的鲁棒性。