标签
本文表明，检索增强生成（RAG）系统在检索自我创作的文档时会出现崩溃，导致响应多样性和自我偏差降低，实验显示在79.6%的模拟中发生了崩溃。
文章对AI模型可能基于AI自身生成的数据进行训练提出了担忧，这可能导致模型崩溃等问题，并引用了Deezer移除数百万首AI生成歌曲以及AI创建的博客文章比例过高等例子。
一篇博客文章及配套推文探讨了随着互联网充满合成内容，生成式AI之前的数据是否变得更有价值，讨论了来源、模型崩溃以及Anthropic的图书扫描。
本文介绍了“公平崩溃”现象，表明在标准模型崩溃指标恶化之前，在合成数据上训练语言模型会悄悄放大社会偏见，凸显了人工智能公平性面临的关键风险。
AI公司正在购买2022年之前出版的印刷书籍，以避免训练数据中出现AI生成文本，因为旧书保证没有AI垃圾和污染。ISBNdb在保密协议下向AI实验室提供批量图书采购服务。
本文研究了迭代指令微调中使用合成数据时的模型崩溃问题，揭示了崩溃表现为能力极化：强项被强化，弱项则进一步退化。提出了KITE，一个两阶段框架，结合失败引导的数据生成和边界感知的不确定性筛选，确保在多次迭代中稳定提升。
文章讨论了一家咨询公司的论点：模型崩塌、人类认知债务（技能退化）和竞争压力在人工智能中形成了一个自我强化的反馈循环，并质疑组织能否抵制自动化的竞赛。
本文表明，在低资源验证场景中，验证者仅能访问目标分布中碎片化且有偏的片段，此时数据选择会通过剪除全局相关的尾部模式，反而加速模型崩溃。作者提供了理论证明，并提出了一种协作代理参考机制作为缓解策略。
本文提出了一种双层耦合SIR/SIRS框架，用于模拟AI生态系统中的合成数据污染和模型崩溃，表明模型与数据语料库之间的交叉污染会导致超临界动力学，并指出基于检测的过滤是关键干预手段。
本文探讨模型崩塌不是技术缺陷，而是认识论问题：当AI模型的输出成为自身输入时，模型对现实的表征逐渐扁平化为一种自我指涉的平均值，这引发了我们如何区分一个建模世界的模型与一个只建模自身的模型的问题。
本文研究了多模型体系中的自消费训练，表明由于跨模型交互，人类策展可能适得其反并损害长期对齐。
本文将LLM中的模型崩溃重新定义为一种文化传播现象，表明迭代学习理论预测了自我训练下组合性的非单调轨迹，并在多种语言和模型上得到证实。
科学家声称已找到一种解决方案，防止AI模型在人类生成数据耗尽时自我蚕食，解决了模型崩溃问题——即基于合成数据训练的大语言模型会产生胡言乱语和幻觉。
本文提供的证据表明，对语言模型输出的自训练并不会均匀地使语言扁平化，而是对其进行重组，表层标记（话语连接词、模糊限制语、破折号）增加，而深层句法结构（被动语态、虚拟语气、插入语）崩溃，这被正式化为结构深度假说。
本文指出了标准微调在因果推理任务中存在的“模型崩溃”问题，并提出了一种结合基于图的逻辑约束的语义损失函数来防止该现象。
本文批判了媒体对LLM局限性数学证明的夸大报道，特别指出关于自我提升的条件性结论如何经常被曲解为普遍不可能性。