标签
该研究揭示了大语言模型在机器遗忘方面的显著差距，表明对抗性评估能够揭示遗忘信息的可恢复性，即使在使用强标准指标的情况下，凸显了对抗性压力测试的必要性。
本文将工具介导的恢复识别为LLM遗忘中的一种失败模式，并提出Agentic Tool Unlearning（ATU）以同时减少参数回忆和基于工具的恢复，同时保持正常工具使用。
本文介绍了ConceptGuard，这是一个基准测试，用于评估大型语言模型中使用双重用途概念的上下文敏感遗忘能力，揭示了当前遗忘技术在此实际评估框架下表现不佳。
本文探讨了语言模型中机器遗忘的遗忘集策划，引入了一个评估逐字输出抑制的基准，并强调了效果与能力保留之间的权衡。
论文提出了AdaPop，一种基于自适应流行度的大语言模型遗忘方法，它根据事实频率调整梯度压力，以提高遗忘效果并减少查询下的信息泄露。
本文揭示了经过强化学习训练的多模态大型推理模型中的一个隐私漏洞：即使在最终答案中成功消除了敏感事实，模型仍可能在推理轨迹中重现这些事实。为此，本文提出LEMUR，一个无需训练、推理时运行的框架，利用熵动态来检测并抑制此类泄露。
提出了J-Access，一种使用雅可比透镜的推理时审计方法，用于衡量未学习（unlearned）LLM中残余知识的可访问性，发现可访问性可预测恢复速度，但直接最小化它并不能促进真正的删除。
介绍GROM，一种无梯度的单次机器遗忘方法，通过岭正则化最小二乘法计算闭式加性权重更新，在TOFU和WMDP等基准上实现了最先进的遗忘-效用权衡，并能抵抗基于量化的恢复攻击。
本文介绍了一个用于评估机器遗忘的新基准，重点关注多跳推理一致性和恢复鲁棒性。实验表明，现有遗忘方法在遗忘质量、鲁棒性和效用保持之间面临“不可能三角”的权衡。
本文提出了一种面向机器遗忘的保留感知定位方法，可减少对语义相似保留样本的附带损害，并引入了一个保留相似性评估集。在CIFAR-10上的ResNet18实验表明，该方法减少了附带损害并改善了遗忘指标。
This paper investigates exact deletion from language-model memory, showing that subtractive methods work when record influence is addressable, while replay/rebuild is needed when influence is woven into recurrent state. Experiments on Gemma and Kimi hybrid models demonstrate trade-offs in utility and exactness.
介绍了LENS，一种基于情境化的评估协议，用于测试大型语言模型中的叙事去学习，评估在直接、归因、对比和抽象层面的压制情况。
本文介绍了随机元遗忘（SMU），这是一个双层框架，利用VLM级反馈为语言骨干学习一个可进行遗忘的初始化，在多模态遗忘中实现更好的遗忘-保留权衡。
OriginBlame 是一个记录级与令牌级的数据溯源系统，能够在 AI 训练数据管道中传播作者身份，从而为机器遗忘（machine unlearning）生成精确的遗忘集。它消除了数据集级系统导致的过度删除问题，并提升了遗忘效果。
提出GSUO，一种信号感知的机器遗忘优化框架，利用细粒度信号引导遗忘过程，避免过度遗忘和欠遗忘，性能优于14个基线方法。
本文将大型语言模型中的机器遗忘界定为一个非对称泛化问题，提出了SUITE评估协议与训练语料库以解决遗忘不足与过度遗忘问题，并介绍了JensUn++算法，该算法在三个大型语言模型上实现了最佳的遗忘-保留效用权衡。
对跨视觉、语言、视频和音频的多模态遗忘方法、数据集和基准的综合综述，提供了分类法并强调了未解决问题。
提出一种实用的审计器，利用成员推理攻击来计算遗忘参数ε的数据依赖下界，发现经过认证的算法（如模型裁剪、回退删除）与经验方法（如基于Hessian的遗忘、梯度上升）之间有明显差异：前者达到严密的下界，后者表现出较大的下界，表明遗忘效果不佳。
CBD提出了一种仅通过API的黑盒遗忘框架，用于大语言模型。该框架利用两个辅助模型在保留数据和目标数据之间创建受控行为差异，相比现有方法实现了更优的遗忘-效用权衡。
本立场文件认为，术语“机器遗忘”在大型语言模型研究中被过度使用，主张采用更严格的术语，将其与数据集定义的删除和重训练等价性保证挂钩。