AI艺术无作者：研究发现生成图像常无法追溯至训练数据

<p dir="ltr" id="docs-internal-guid-86a5dc68-7fff-c9ca-b44f-a111a63d7ec5">当人工智能图像生成器创作一幅肖像时，谁的作品被纳入其中？这个问题在全球的诉讼、许可协议和拟议法规中处于核心地位。艺术家想要获得认可，公司希望明确责任，政策制定者则寻求一种分配责任的方式。</p><p dir="ltr">MIT CSAIL团队的一项新研究表明，对于在大规模数据集上训练的模型，这个问题往往可能没有答案。这不是因为寻找答案的工具不足，而是因为联系本身已经消失。</p><p dir="ltr">科学家们识别出一种他们称为“归属衰减”的现象：生成式模型训练的数据越多，任何单个训练示例对特定输出的影响就越小。这看似违反直觉，但他们发现，在足够大的规模下，你常常可以从训练数据中移除任何单张图像，或移除某位艺术家的所有图像，或移除某个人的所有照片，而生成样本却不会改变。</p><p dir="ltr">研究者认为，如果移除某物而不改变任何结果，那么它就不能对任何事情负责。</p><p dir="ltr">“如果你移除一个数据点而模型的输出没有改变，那么这个数据点就没有影响输出，”前MIT CSAIL研究员、该工作主要作者Zheng Dai SM ’21, PhD ’24说。“因此，将输出归因于该数据点没有太大意义。如果你接着逐一移除其他每个数据点，发现输出对任何数据点都没有改变，那么将输出归因于其中任何一个也没有太大意义。”</p><p dir="ltr">“所有先前的方法都是近似的，”MIT教授David Gifford说，他是MIT CSAIL的主要研究者。“它们实际上无法绝对证明删除单个事物不会改变输出。本文引入了第一种绝对方法。你实际上删除了输入并删除了所有输入的影响。这是第一种能够高效进行大规模删除并证明结果不变的精确方法。”</p><p dir="ltr">Dai和Gifford的项目在一篇开放获取<a href="https://www.nature.com/articles/s41467-026-75667-5">今天发表在<em>Nature Communications</em>上的论文</a>中描述。</p><p dir="ltr"><strong>重训练问题</strong></p><p dir="ltr">直接测试这个想法意味着回答一个假设性问题：如果这个模型从未见过这张特定图像，它会产生什么？诚实地回答意味着从头开始重新训练模型，不使用该图像，然后对下一张图像、再下一张图像重复此过程。对于数百万训练示例，数学计算很快变得不可行，这就是为什么归因领域的先前工作依赖于估计训练示例影响的近似方法，而不是实际移除它。</p><p dir="ltr">他们的变通方案是一个自建的架构，称为“扩散集成”。它不是一个单一的巨型模型，而是由许多更小的组件组成，每个组件在不同的数据切片上训练。想知道模型在没有特定图像时会做什么吗？只需关闭看到它的部分即可。无需重训练，无需近似。剩下的就是一个真实的反事实模型，而不是它的估计。</p><p dir="ltr">当然，一个巧妙的架构只有在它仍然作为生成器工作时才重要。因此，团队将集成模型与24个在完全相同数据上训练的传统扩散模型进行了头对头比较。通过标准度量，生成的图像看起来效果差不多。</p><p dir="ltr">数据中一个惊喜发现：训练数据越多，集成模型相对于单模型的表现越好，这表明它们可能更数据高效。</p><p dir="ltr">“当数据量低时，它们表现很差，”Dai说。“但如果你有更多数据，与普通扩散模型相比，它实际上扩展得更好。”</p><p dir="ltr"><strong>探索反事实宇宙</strong></p><p dir="ltr">随着消融工作正常，研究人员终于可以大规模地提出问题。取一个生成的图像，然后想象它的每个替代版本，每个版本通过移除不同的训练数据片段产生。团队称此为图像的反事实宇宙。原始图像与其最不同替代版本之间的距离，即反事实半径，捕获了任何单个训练数据片段可能的重要性上限。</p><p dir="ltr">他们在数据集上训练了24个集成模型，数据集大小从256张图像到超过16万张，来自七个公共集合，包括CIFAR-10、CelebA、MetFaces和ArtBench。模式是一致的：训练集越大，半径越小，沿反幂律缩小。无论是逐像素比较还是语义意义比较，差异都以统计显著性缩小。</p><p dir="ltr">团队还对自己的结果进行了压力测试。也许消融本身是罪魁祸首？他们在小规模上用蛮力方法重做，训练了1,282个独立模型，衰减仍然出现。也许更大的数据集只是使每个移除在比例上更小？他们固定了移除比例，它仍然存在。固定时期、文本提示模型、类别条件模型、四种相似性度量——这个发现在所有情况下都存活下来。</p><p dir="ltr"><strong>隐私悖论</strong></p><p dir="ltr">影响的方向让研究者自己都感到惊讶。</p><p dir="ltr">Gifford认为这个发现直接关系到模型输出是否为衍生作品的法律问题。</p><p dir="ltr">“思考这个问题的一种方式是这些模型是创造性的。它们不是简单地复制输入内容，而是创造全新的输出。如果这些输出与任何单个训练数据无关，这就引发了关于合理使用、输出本身是否可作为新作品获得版权、以及当模型输出无法归因于互联网上任何内容时作者如何获得补偿的问题。”</p><p dir="ltr">Gifford还指出，这项工作展示了如何生成保证不可归因的输出，他将此能力定义为行业的义务，而不是漏洞。</p><p dir="ltr">“为了让这些公司声称他们的输出不是以版权侵权方式从互联网衍生的，他们需要修改模型以利用这项工作的进展，从而证明他们没有创建个人或物品的衍生品。”</p><p dir="ltr">这项工作研究了扩散模型，这些模型现在在生成视听媒体中占主导地位，并在包括蛋白质结构建模和治疗发现在内的科学应用中普遍存在。对于处于最高调版权诉讼中心的大型语言模型，同样的衰减是否成立仍然是一个开放问题。</p><p dir="ltr">“如果归因有效，它将可靠地告诉我们模型输出与受版权保护作品之间的相似性是由于复制还是巧合，”康奈尔法学院和康奈尔理工学院的法学教授James Grimmelmann说。“但本文提供了理由认为归因对于有趣的模型将会失败。相反，技术专家和法院将需要诉诸其他方法来评估复制。”</p><p dir="ltr">Dai和Gifford的工作得到了Schmidt Futures的支持。</p>