标签
本文认为,对 Mythos 等智能模型进行封闭限制会降低社会安全性,主张更广泛地分发 AI 技术,以保护海量的开源及闭源软件项目生态系统。
本文提出了通过重写推理追踪来保护大型语言模型免受未授权知识蒸馏的方法,该方法在保持正确性的同时降低训练价值,并在蒸馏的学生模型中嵌入可验证的水印。该方案采用基于指令和基于梯度的重写技术来实现反蒸馏效果,同时不影响教师模型性能。
本文证明深度神经网络对参数的最小符号位翻转具有灾难性脆弱性,提出了DNL和1P-DNL方法,无需数据或优化即可识别关键脆弱参数。这种脆弱性跨越多个领域,包括图像分类、目标检测、实例分割和语言模型,对模型安全具有实际意义。
Anthropic 宣布针对 Claude 的非法提炼攻击推出新防御措施,称已将获取的数据量减少 90-99%,同时警告称 GLM-5.3 等蒸馏模型带来网络安全和国家安全风险。
Anthropic宣布在抵御针对Claude的蒸馏攻击方面取得重大进展,早期数据显示已将蒸馏者窃取的数据量减少约90%至99%。文章将非法蒸馏描述为国家安全风险,指出Zhipu在开发GLM-5.3时曾试图蒸馏Claude的网络攻击能力,且部分蒸馏模型的能力已被整合进外国军事和情报系统。