治理模型，而不仅仅是数据：创意AI中的存储、流通与学习

# 治理模型，而非仅仅治理数据：创意AI中的存储、流通与学习
来源：https://arxiv.org/html/2609.03800
乔治·西姆斯所属机构：伦敦艺术大学邮箱：[g\.simms@arts\.ac\.uk](mailto:)伊丽莎白·威尔逊所属机构：伦敦艺术大学邮箱：[e\.j\.wilson@arts\.ac\.uk](mailto:)雅斯敏·布迪亚夫所属机构：伦敦艺术大学邮箱：[y\.boudiaf@arts\.ac\.uk](mailto:)尼克·布莱恩-金斯所属机构：伦敦艺术大学邮箱：[n\.bryankinns@arts\.ac\.uk](mailto:)泰加·布雷恩所属机构：纽约大学邮箱：[brain@nyu\.edu](mailto:)R·卢克·杜波依斯所属机构：纽约大学邮箱：[dubois@nyu\.edu](mailto:)阿利克斯·鲁尔所属机构：纽约大学邮箱：[aer342@nyu\.edu](mailto:)雷切尔·米德·史密斯所属机构：纽约大学邮箱：[smithmeade@gmail\.com](mailto:)凯拉妮·尼科尔所属机构：纽约大学邮箱：[kelaniatwork@gmail\.com](mailto:)阿塔尔瓦·普拉文·帕瓦尔所属机构：纽约大学邮箱：[app7633@nyu\.edu](mailto:)丽贝卡·菲布林克所属机构：伦敦艺术大学邮箱：[r\.fiebrink@arts\.ac\.uk](mailto:)

###### 摘要

联邦学习日益被视为一种隐私保护的进步：个人数据留在设备上，只共享模型更新。它借鉴了联邦社交网络的术语，却颠倒了其逻辑，分布式的是计算过程，而生成的模型却归召集训练的一方所有。我们认为，联邦本身并非解决提取式AI问题的良方，因为结果取决于谁治理数据与模型，以及谁对塑造它们的实践拥有主导权。我们描述了创意社区可据以维护其作品的三个层次：存储、流通与学习。通过考察艺术家治理的信托、合作社与同意基础设施，我们表明创作者治理在存储与流通层面得以确立，却在学习层面停滞：贡献者可以同意参与训练，却对生成的模型或其联邦化鲜有发言权。我们将这一开启的研究空间绘制成图，将技术开放性问题与其引发的人类议题配对。我们为同时治理模型及其联邦（而不仅是数据集）的创意数据公域提出了四个设计原则：治理模型，而非仅仅语料库；在贡献时明确条款；将拒绝设计为第一等状态；公开决定管理权并加以说明。

## 1引言：两种联邦

生成式AI已融入创意实践的日常工具，存在于文本编辑器、绘图应用和数字音频工作站中，艺术家、音乐家和作家通过这些工具创作他们的作品[1 (https://arxiv.org/html/2609.03800#bib.bib1)]。除了基于网络抓取语料库训练的大模型外，还存在一种尚待协商的架构：联邦学习。它被视为一种隐私保护的进步，因为受保护的个人数据永不离开设备，只有经过计算的模型更新被共享和联邦化[2 (https://arxiv.org/html/2609.03800#bib.bib2)]。

联邦是一种可以呈现多种形式的协议；在本文中，我们介绍两种截然不同、常被混为一谈（即便并非有意为之）的架构。更知名的FLOSS联邦Web3技术允许社区运行自己的服务器，并通过ActivityPub[3 (https://arxiv.org/html/2609.03800#bib.bib3)]等标准作为对等节点实现互操作。这里被分发的是发布权，运行服务器的社区决定托管什么内容、与谁联邦以及拒绝谁[4 (https://arxiv.org/html/2609.03800#bib.bib4),5 (https://arxiv.org/html/2609.03800#bib.bib5)]。

然而，AI训练的联邦化体现了一种第二类、截然不同的联邦化方法。在此方法中，设备在本地计算模型更新，并将这些更新仅发送至中央服务器，由服务器将其聚合为单一模型[2 (https://arxiv.org/html/2609.03800#bib.bib2),6 (https://arxiv.org/html/2609.03800#bib.bib6)]。这里被分发和联邦化的是计算，通常涉及对个人数据的计算。这种架构在本地数据保留在各个设备上的同时，模型聚合与所有权通常由中央协调组织保留，在许多方面颠倒了FLOSS联邦网络的逻辑。谷歌的Gboard是消费级部署时间最长的实例，其工作原理正是如此[7 (https://arxiv.org/html/2609.03800#bib.bib7),8 (https://arxiv.org/html/2609.03800#bib.bib8)]。同样，苹果公司对差分隐私[9 (https://arxiv.org/html/2609.03800#bib.bib9)]的采用说明了隐私与联邦的概念如何被融入企业AI基础设施[10 (https://arxiv.org/html/2609.03800#bib.bib10)]。这类方法并非赋能社区治理其自身的数据资源，而是优化了聚合洞察的提取。这些联邦学习的实际应用面临诸多挑战，包括高通信成本、统计与系统异构性、持续的隐私漏洞[11 (https://arxiv.org/html/2609.03800#bib.bib11)]，以及设备端学习如何处理和维护用户数据的清晰度缺失[12 (https://arxiv.org/html/2609.03800#bib.bib12)]。

这两种联邦实践都旨在实现去中心化，但分发的东西不同：第一种分发数据并提供其治理权；第二种分发模型计算以提取个人数据，并保留模型所有权。使用同一术语指称两者使得更难理解其差异。因此，联邦学习常常继承了通过社区治理赢得声誉的联邦网络的政治地位。设备的处理现在既是市场定位也是技术方法[10 (https://arxiv.org/html/2609.03800#bib.bib10)]。在诸如GDPR[13 (https://arxiv.org/html/2609.03800#bib.bib13)]等已将数据权个体化的范畴内，其隐私主张在一定程度上是准确的，因为个人数据仅保留在本地设备。然而，数据隐私与对产生数据的实践的主导权控制是两回事。这个更广泛的主导权问题已在创意领域被提出，见于提交给英国版权与AI磋商的证据，以及关于收入风险的行业评估[14 (https://arxiv.org/html/2609.03800#bib.bib14),15 (https://arxiv.org/html/2609.03800#bib.bib15)]。

我们的论点是：联邦是一种协议，而非一种政治：它增强还是削弱创意社区的主导权，完全取决于谁治理数据和生成的模型。联邦架构既兼容治理实践的构建，也兼容从中提取。就本文而言，我们将创意社区定义为“一群围绕共同挑战或主题聚集起来进行创造、行动和分享的人们”[16 (https://arxiv.org/html/2609.03800#bib.bib16)]。我们的论点基于使用AI和数据工作的艺术家的实践，旨在提出一些设计原则，以增强创意社区的主导权及其集体治理能力。因此，我们的贡献如下：

1. 1\.区分两种主要且常被混淆的联邦范式，以便当前规定给个人和社区的设计决策能通过审议做出（第2节[2 (https://arxiv.org/html/2609.03800#S2)]）。
2. 2\.区分*存储*、*流通*和*学习*作为与创意社区相关的联邦AI系统的治理层，其中创作者治理在前两层已确立，但在第三层目前缺失，并通过创作者主导的联邦（如TRANSFER数据信托和蛇形画廊的合唱数据信托）加以阐释（第4节[4 (https://arxiv.org/html/2609.03800#S4)]）。
3. 3\.描绘由此开启的研究空间，将技术摩擦与基于艺术实践的探究配对，为能够开始治理模型及其联邦（而不仅仅是数据集）的创意数据公域制定设计原则（第6节[6 (https://arxiv.org/html/2609.03800#S6)]–7节[7 (https://arxiv.org/html/2609.03800#S7)]）。

## 2创作者已有的实践

艺术家常常以与AI系统的设计与构建方式相偏离甚至相悖的方式运用机器学习。一种可辨识的实践围绕小型、自我策划的数据集形成，这些数据集被用来引导模型朝向特定美学，而非普遍性能[17 (https://arxiv.org/html/2609.03800#bib.bib17)]。安娜·里德勒为*《万千（郁金香）》*拍摄并手工标注了一万朵郁金香，在为其训练生成对抗网络以创作*《马赛克病毒》*之前，先将该数据集本身作为作品展出[18 (https://arxiv.org/html/2609.03800#bib.bib18),19 (https://arxiv.org/html/2609.03800#bib.bib19)]。乔纳森·赖斯与声音诗人雅普·布隆克将数据集变为活态：在*《Bla Blavatar对决雅普·布隆克》*中，布隆克现场表演生成的“数据集诗”，同时其录制的声音被加入训练集，以产生一个合成替身[20 (https://arxiv.org/html/2609.03800#bib.bib20)]。类似的承诺贯穿于索菲亚·克雷斯波[21 (https://arxiv.org/html/2609.03800#bib.bib21)]、埃迪·黄[22 (https://arxiv.org/html/2609.03800#bib.bib22),23 (https://arxiv.org/html/2609.03800#bib.bib23)]、玛格达莱娜·蒂日里克-卡弗[24 (https://arxiv.org/html/2609.03800#bib.bib24)]、杰维·约翰斯顿[25 (https://arxiv.org/html/2609.03800#bib.bib25)]和加布里埃尔·维利恩索尼[26 (https://arxiv.org/html/2609.03800#bib.bib26)]的作品中，也贯穿于霍莉·赫恩登与马特·德莱赫斯特的*《召唤》*[27 (https://arxiv.org/html/2609.03800#bib.bib27)]，该作品制作了一个与十五个合唱团合作收集的合唱数据集[28 (https://arxiv.org/html/2609.03800#bib.bib28)]。我们并非将这些呈现为案例研究，而是从这些实践中提炼论点：一个创意数据公域可以并且已经在作品、画廊和展览层面运作：艺术家们策划、标注、拒绝、撤回并治理他们的数据，这在物质和概念层面都塑造了结果。尚未充分发展的是跨创意社区治理与共享生成AI模型的实践。

## 3当模型成为材料

越来越多的研究[29 (https://arxiv.org/html/2609.03800#bib.bib29)]探讨机器学习实践的对象（包括模型本身）如何被理解为材料。我们的观点并非模型就是材料；而是当一个社区（而非单个创作者）将其作为材料来运作时，情况就发生了变化。艺术实践尤其清晰地展现了人类活动中一个更普遍的特征，这一点早已被哲学实用主义者认识到：人们通过持续投入实践材料和工具，发展感知、判断和行动能力[30 (https://arxiv.org/html/2609.03800#bib.bib30)]。在上述项目背景下，艺术家的数据实践揭示了这一动态如何运作。当模型本身成为材料时：与模型互动不仅仅是使用一个完成的技术对象；而是参与到一种既塑造系统又塑造与之共事者的实践中。通过数据标注、模型训练和模型共享，艺术家们积极重塑他们所参与的创意与技术实践，同时也塑造着生产模型的AI与数据实践。这里的“社区”指的是一个共同持有一套作品集，并能共同设计、训练和治理模型的群体。

创意实践已经这样对待训练好的模型。里德勒描述了一个模型揭示出她自己绘画手法中未曾注意到的模式[31 (https://arxiv.org/html/2609.03800#bib.bib31)]。Dadabots刻意在短时间尺度上过拟合，在长时间尺度上欠拟合，使得一个在单张专辑上训练的模型能在这张专辑的纹理内生成，而不是逃离它[17 (https://arxiv.org/html/2609.03800#bib.bib17)]。特伦斯·布罗德重新连接、弯曲并反转模型的架构与价值[32 (https://arxiv.org/html/2609.03800#bib.bib32),33 (https://arxiv.org/html/2609.03800#bib.bib33)]。在每种情况下，模型都被视为具有纹理、阻力和可塑性的材料来处理，而非为优化准确性或相似性而确定的流水线。这些艺术家所珍视的，往往是这些系统所弱化或移除的东西，以及他们如何通过自身的在地实践来协商这些界限。

我们提议，当模型被集体关怀时，这为从多种立场和欲望出发塑造其治理及相关事务留出了空间。一个共同策划共享语料库的社区，能够理解模型如何被训练与设计，共同感受它的响应、抵抗、剪枝、重新加权和拒绝。这提供了一种在集体实践和治理规模上接触和塑造AI与数据事务的方式。这是一种通过艺术实验得以彰显的创意主导力，但目前由于主要的基础设施原因而难以实现：没有地方能在如此集体和可配置的条件下来呈现模型。因此，学习层的治理不仅是训练数据权利的问题，它还决定了模型是否被分享、以何种条件分享的意图。

## 4三个层次，以及治理终止之处

我们认为，联邦内部关于所有权和主权的话语，误置了创意社区自下而上接触和塑造其数据与AI模型的能力。为了帮助理解创意社区能够且已经在此做出的可能干预，我们提供三个可治理数据与模型的层次：存储、流通与学习（图1[1 (https://arxiv.org/html/2609.03800#S4.F1)]）。

**存储**是数据或制品物理存放之处以及谁可访问它。**流通**是其流动的条款：署名、许可、付费以及退出权。**学习**不仅是训练模型的技术行为；它是使该行为及其生成的模型能够接受集体治理的层面：谁可以在何种数据、硬件和条件下训练模型，谁持有、调整和治理由此产生的模型。模型及其训练方式随后便可进入存储与流通已承载的对话与治理循环，而非作为纯粹的技术步骤置身其外。现有创意社区内部的治理方法往往聚焦于系统的前两个层面，而非第三个。重要的是，在学习层内部，我们区分了对训练的同意与模型生成后的技术设计及治理。同意回答的是贡献者是否允许其作品进入训练过程；模型治理则涉及该过程之后的事情：谁可以访问、修改、调整、部署、重新分发或撤回生成的模型，以及在何种条件下进行。例如，根据GDPR，社区可以在对训练后模型或其后续使用或修改缺乏有意义主导权的情况下同意参与训练，只要任何个人数据无法从其插值中被识别。

**存储**谁持有文件，谁能访问它们  
**流通**署名、许可、付费、退出  
**学习**谁可以训练，谁持有模型  

**创作者治理已建立**：同意是，治理开放  
图1：创意社区据以维护其作品的三个层次。创作者主导的联邦，如TRANSFER数据信托和蛇形画廊的合唱数据信托，已在存储和流通层面确立了治理（第4.1节[1 (https://arxiv.org/html/2609.03800#S4.SS1)]）。在学习层，对训练的同意已在多个案例中确立，而治理则尚