公司用于LLM的训练数据枯竭问题后来怎么样了？

我记得大约一年前，有很多新闻报道说人类生成的训练数据供不应求，训练数据将在不久的将来“枯竭”。当时有一些关于使用合成数据的讨论，但我听说这样做有问题，比如用合成数据训练最终模型会导致问题，并污染输出。这个问题是否已经解决，还是仍然需要解决和修复？大概这不是一个大问题，因为我们看到模型仍在不断改进，但我在新闻周期中没有看到任何关于它的新消息，所以想问问这里是否有人有更多信息。简单的谷歌搜索没有找到太多相关信息。