model-security

标签

Cards List
#model-security

@Dan_Jeffries1:将 Mythos(或任何其他智能模型)严密封锁,仅限少数公司获取,这反而降低了我们整个社会的安全性……

X AI KOLs Following ↗ · 2026-05-08

本文认为,对 Mythos 等智能模型进行封闭限制会降低社会安全性,主张更广泛地分发 AI 技术,以保护海量的开源及闭源软件项目生态系统。

0 人收藏 0 人点赞
#model-security

通过追踪重写保护语言模型免受未授权蒸馏

arXiv cs.CL ↗ · 2026-04-20 缓存

本文提出了通过重写推理追踪来保护大型语言模型免受未授权知识蒸馏的方法,该方法在保持正确性的同时降低训练价值,并在蒸馏的学生模型中嵌入可验证的水印。该方案采用基于指令和基于梯度的重写技术来实现反蒸馏效果,同时不影响教师模型性能。

0 人收藏 0 人点赞
#model-security

无需数据或优化的最大脑损伤:通过符号位翻转干扰神经网络

Hugging Face Daily Papers ↗ · 2026-04-16 缓存

本文证明深度神经网络对参数的最小符号位翻转具有灾难性脆弱性,提出了DNL和1P-DNL方法,无需数据或优化即可识别关键脆弱参数。这种脆弱性跨越多个领域,包括图像分类、目标检测、实例分割和语言模型,对模型安全具有实际意义。

0 人收藏 0 人点赞
#model-security

加强对提炼攻击的防御

Anthropic News ↗ · 2026-10-21 缓存

Anthropic 宣布针对 Claude 的非法提炼攻击推出新防御措施,称已将获取的数据量减少 90-99%,同时警告称 GLM-5.3 等蒸馏模型带来网络安全和国家安全风险。

0 人收藏 0 人点赞
#model-security

2026年10月12日 加强我们抵御蒸馏攻击的防线

Anthropic Research ↗ · 2026-10-13 缓存

Anthropic宣布在抵御针对Claude的蒸馏攻击方面取得重大进展,早期数据显示已将蒸馏者窃取的数据量减少约90%至99%。文章将非法蒸馏描述为国家安全风险,指出Zhipu在开发GLM-5.3时曾试图蒸馏Claude的网络攻击能力,且部分蒸馏模型的能力已被整合进外国军事和情报系统。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈