标签
一篇概念性文章，认为人工智能中的递归自我改进受限于验证而非计算，并使用了认识论封闭的提示矩阵和数据加工不等式的隐喻。
本文从信息论角度解释了合成数据何时会改善或降低LLM训练效果，区分了信息开放和信息封闭的生成循环，并通过数据处理不等式解释了模型崩溃的原因。