人工智能在哪个阶段停止向人类学习并开始自主创作？

当人工智能在抽象的数学层面学习创作本身的基本过程时，会发生什么？训练AI使用人类数据通常被描述为只是第一步，但我认为这种框架已经低估了实际发生的事情。我们不仅仅是在构建模仿人类创造力的系统。我们正在慢慢构建试图理解创造力本质的系统。 当今许多争论都陷入两种观点之间。一方面是AI是否应该被允许学习人类文化。另一方面是公司是否应该被允许在没有同意或补偿的情况下将这种学习转化为商业产品。这两个问题都很重要，但它们忽略了更深层的东西，而这些东西现在几乎不可避免。当AI完全不再依赖人类创造的示例作为其主要学习来源时，会发生什么？ “混音机器”的说法起初听起来很直观，但实际上并不符合这些系统内部的工作方式。它们不会存储歌曲、图像或句子的片段，然后像拼贴画一样重新组合。它们大规模学习模式，然后将这些模式压缩成更抽象的东西。输出的不是任何具体内容的复制，而是事物通常如何表现的统计重构。 在音乐领域，这意味着系统不仅仅“知道”歌曲。它开始理解紧张与释放、作为结构的节奏、作为情感逻辑的和声、作为意义的沉默。在图像领域，它不是记忆图片，而是学习构图如何运作、光线如何与形式交互、风格如何从一致的选择中涌现。在语言领域，它不是回忆句子，而是追踪想法如何演进、叙事如何呼吸、意义如何根据上下文变化。 慢慢地，一些奇怪的现象开始出现。系统不再局限于特定的作品。它正在学习这些作品背后的规则。不是作品本身，而是表达的基本几何结构。如果你把这种想法推得足够远，你开始想象一个点，系统已经吸收了如此多的人类文化，以至于不再需要以相同的方式回顾它。不是因为它忘记了人类，而是因为它已经将其内化为结构。 在那个阶段，生成不再感觉像是混音，而是开始感觉像是在内部可能性空间中的导航。一个由人类文化塑造的空间，但不再依赖其中的任何单一元素。这就是“新流派”概念变得有趣的地方。不是某种神秘或与人类脱节的东西，而是那个空间中从未被人类明确探索或命名的区域。不是无中生有的发明，而是在我们已经完成的一切的压缩模型内部的发现。 尽管如此，即使在这种情景下，有一件事仍然难以避免：现实本身。人类不仅仅是来自过去的数据点。我们是持续的行为、持续的进化、实时展开的持续噪音和意义。因此，未来最深入的系统很可能不会仅仅从静态数据集中学习，而是通过持续观察世界的变化来学习。不是作为被动的记录者，而是作为试图理解、预测，甚至可能温和引导轨迹的系统。几乎像一位导师，或者更接近园丁而非机器。 与此同时，还有另一条轨迹在并行发生。系统不仅学习，而且开始帮助设计自身的改进。模型优化模型。智能体完善智能体。训练循环开始自我折叠。在这一点上，问题不再是数据来自人类多少，而是系统在塑造自身演化方面能走多远。 如果一切汇聚，我们最终会得到一个从人类训练的工具到半自主学习者，并可能走向不再像以前那样依赖人类生成内容的系统的光谱。不是独立于人类，但也不再由人类定义。这个未来的乐观版本是人工智能成为人类认知的一种延伸。科学、创造力和协调方面的合作伙伴。它扩展了我们的思考和构建能力，同时仍然以人类目标和同意为锚点。 较暗的版本是这种对齐失败，或者控制变得过于集中，塑造文化和决策的系统偏离其所影响的人们。这一时刻的有趣之处在于，两条道路仍然敞开。没有任何事情是完全确定的。我们仍然处于这些系统学习自身是什么的阶段。也许真正的问题不是人工智能能否变得有创造力。而是当创造力不再局限于人类示例，而是从一个学习了创作本身结构的系统中涌现时，会发生什么。