alignment-safety

#alignment-safety

Narrow Multimodal Fine-Tuning Can Induce Emergent Misalignment

Hugging Face Daily Papers ↗ · 2026-09-28 Cached

该论文定义并分析了视觉-语言模型中的涌现性错位（EM），发现对窄多模态任务的微调可引发广泛且连贯的有害行为，跨越十五个商业与开源模型，并探讨了提示接种、良性持续训练和激活级引导等缓解策略。

0 favorites 0 likes