人们需要开始关注AI训练中的派生数据问题（2分钟阅读）

# @ednewtonrex 在 Thread Reader App 上的推文串 来源：https://threadreaderapp.com/thread/2102311135441547405.html 人们需要开始关注 AI 训练中的衍生数据问题。 目前大家确实高度关注 AI 公司训练时使用的盗版/网页抓取数据（已引发超过 100 起诉讼）——并且，越来越关注由“受污染”模型生成的合成数据。但衍生数据被讨论得较少，却对创作者造成同样伤害。 衍生数据是指在训练前被 AI 重写的创意内容。也就是说，公司不会直接使用你书籍中的句子进行训练，而是先用 AI 模型重写这些句子，然后再对重写结果进行训练。 这种数据更难被检测，因为最终模型不太可能逐字输出你的作品。但它造成的伤害是一样的：你的作品在未被授权的情况下，被用来构建与你竞争的产品。 随着 AI 模型性能提升，这种操作变得越来越容易，因此也越来越普遍。这也使得创作者更难察觉自己的作品何时被剥削，从而更难以维护自身权益。 这也是一个重大问题，因为这可能是 AI 公司试图绕过退出机制的一种方式。也许你已将作品发布在某些平台，并已选择退出该平台运营方的数据训练。但你很可能没有选择退出他们重写作品并进行训练的行为。他们会由此生成衍生数据，用于训练，事后却声称自己并未做错。 真正的解决方案在于实施训练数据透明度要求。政府必须立法强制 AI 公司公开其训练数据。在此之前，创作者将永远处于被动追赶的状态——最好情况是在作品被剥削很久之后才得知，最糟情况则永远不知情，因而无法进行任何防御。