标签
该论文提出 Forget-Aware Self-Distillation (FASD) 方法,将多模态大模型遗忘解耦为行为通道与知识通道,以实现「诚实无知」——既真正擦除目标知识,又让模型能承认自身知识边界,避免幻觉与信息泄露。
本文通过受控的医学问答设置研究LLM中的权威偏见,揭示模型以与感知权威成比例的分级方式覆盖正确答案。该效应局限于一个关键的后层,其中正确答案表征被主动擦除。