当人工智能耗尽人类生成的数据时会发生什么？
摘要
随着AI模型消耗有限的人类生成数据，未来的训练可能会依赖其他AI产生的合成数据，这引发了关于长期影响的疑问。
人类创造的数字内容量可能非常巨大，但它仍然是有限的。随着AI模型消耗越来越多的数字内容，未来的模型将如何训练？它们会主要依赖其他AI生成的合成数据吗？你认为长期来看会发生什么？
相似文章
AI正在实时退化
AI模型因使用递归生成的合成数据进行训练而不断退化，导致模型崩溃；多项研究强调了使用合成数据进行规模化训练的风险。
如何在人类生成的数据耗尽时防止AI模型自我蚕食？科学家称他们已找到答案。
科学家声称已找到一种解决方案，防止AI模型在人类生成数据耗尽时自我蚕食，解决了模型崩溃问题——即基于合成数据训练的大语言模型会产生胡言乱语和幻觉。
AI会（或将会）反向学习吗？（因为其大部分训练数据现在是由AI生成的）
文章对AI模型可能基于AI自身生成的数据进行训练提出了担忧，这可能导致模型崩溃等问题，并引用了Deezer移除数百万首AI生成歌曲以及AI创建的博客文章比例过高等例子。
AI如何识别AI生成的内容？
探讨了AI模型在AI生成的内容上训练的问题，随着不准确性的累积，可能导致质量下降和真相的丧失。
人工智能是否正在降低互联网的实用性？
本文探讨了随着人工智能生成内容在互联网上的泛滥，是否可能导致人工创作的信息质量下降，并因人工智能训练数据源自人工智能生成内容而形成反馈循环，从而阻碍未来人工智能的学习。