I-CARE：在可控、多样且具代表性的文本到图像模型遗忘设置中干扰相关现象的分析

arXiv cs.AI 论文
machine-unlearning text-to-image generative-ai interference-analysis open-source methodology

摘要

本文介绍了I-CARE，这是一种系统性分析文本到图像模型机器遗忘中干扰的方法，提供了形式化定义和开源框架，以实现可重复研究。

arXiv:2609.00003v1 公告类型：新 摘要：机器遗忘研究从AI模型中移除知识，使系统遗忘先前学习的概念。尽管生成式机器遗忘取得了快速进展，但本应保留的语义相关概念的无意退化（以下称为干扰）仍然缺乏明确表征和一致评估。本文介绍了I-CARE，这是一种将干扰形式化为生成式遗忘中首要研究对象的方法论。I-CARE并非提出新的基准或遗忘算法，而是为任务、指标和结果报告模板提供形式化定义，使得跨遗忘设置的干扰系统性和可重复研究成为可能。尽管我们的方法论旨在随着模型和遗忘算法的演进而保持有效性，将长期科学洞察与短暂经验结果解耦，但我们使用最先进的算法和常用数据集进行了可行性演示。结果表明，I-CARE能够实现跨多个遗忘设置的干扰模式有意义分析，确立了该框架的实际适用性。该方法的软件实现以开源框架形式提供，并附有基于Web的图形界面，使得无需直接交互代码库或专门数据分析工具即可探索本研究结果。
查看原文
查看缓存全文

缓存时间: 2026/09/02 05:54 

# I-CARE：可控、多样化且具有代表性的文本到图像模型遗忘设置中干扰相关现象分析
来源：https://arxiv.org/abs/2609.00003
查看PDF (https://arxiv.org/pdf/2609.00003)

> 摘要：机器遗忘研究从人工智能模型中移除知识，使系统忘记其先前学习过的概念。尽管生成式机器遗忘取得了快速进展，但本应保留的语义相关概念的意外退化（下文称为干扰）仍然缺乏充分描述且评估标准不统一。本文提出了I-CARE方法，该方法将干扰形式化为生成式遗忘中的一级研究对象。I-CARE并未提出新的基准或遗忘算法，而是为任务、指标和结果报告模板提供了形式化定义，使得在跨遗忘设置中对干扰进行系统性和可重复性研究成为可能。虽然我们的方法设计旨在随着模型和遗忘算法的发展而保持有效，将长期科学洞察与短暂的经验结果解耦，但我们使用最先进算法和常用数据集进行了可行性验证。结果表明，I-CARE能够在多种遗忘设置中实现对干扰模式的有意义分析，确立了该框架的实际适用性。该方法的软件实现以开源框架形式提供，同时配备基于Web的图形界面，使用户无需直接操作代码库或专业数据分析工具即可探索本研究结果。

## 提交历史

来自：Leonardo Santiago Benitez Pereira [查看邮件 (https://arxiv.org/show-email/14cfe767/2609.00003)] **[v1]** 2026年6月24日 周三 16:24:33 UTC (34,261 KB)

相似文章

干扰感知的多任务机器遗忘

arXiv cs.AI

本文介绍了一种干扰感知的多任务机器遗忘框架，通过任务感知的梯度投影和实例级别的梯度正交化来解决任务级和实例级干扰，在多任务计算机视觉基准上实现了有效的遗忘。

在文本到图像扩散模型中认证概念遗忘

arXiv cs.LG

本文介绍了一个用于文本到图像扩散模型概念遗忘的认证框架，提供了对残余泄漏的高置信度保证，并表明标准的基于攻击的评估往往低估了安全风险。

相似性感知的机器遗忘

arXiv cs.LG

本文提出了一种面向机器遗忘的保留感知定位方法，可减少对语义相似保留样本的附带损害，并引入了一个保留相似性评估集。在CIFAR-10上的ResNet18实验表明，该方法减少了附带损害并改善了遗忘指标。