@snowboat84: 若干年前,耗散系统和非线性复杂系统在学术界和文化界曾经非常火热。要全面回顾耗散系统,不得不从非耗散的热力学说起。热力学第二定律(熵定律)说,一切都该走向混乱、走向死寂。可生命在生长,森林在演替,连数据中心里的大模型,也在不断"学"出秩序。…
摘要
这是一篇长达两万五千余字的科普文章,从熵的起源讲起,回顾了耗散系统理论的发展历程,并探讨了AI是否属于耗散系统的三层分析(硬件层、训练层、静态模型)。
查看缓存全文
缓存时间: 2026/06/18 02:06
若干年前,耗散系统和非线性复杂系统在学术界和文化界曾经非常火热。要全面回顾耗散系统,不得不从非耗散的热力学说起。热力学第二定律(熵定律)说,一切都该走向混乱、走向死寂。可生命在生长,森林在演替,连数据中心里的大模型,也在不断“学“出秩序。这股逆着熵增往上走的力量,物理学给了它一个名字:耗散结构。
我这篇两万五千余字的科普,从“熵到底是怎么来的“讲起(卡诺、克劳修斯、玻尔兹曼,前后几十年才正式定下这个概念),讲到普里高津怎么在远离平衡的地方建立起非平衡热力学的理论,并由此荣获了1977年诺奖。再从普利高津讲起,讲到复杂科学、协同学、混沌,一直到耗散系统理论今天最锋利的继承者:随机热力学、活性物质,还有把麦克斯韦妖关进笼子的兰道尔原理。
为什么我们要回顾耗散系统呢?因为我们要问一个问题:AI到底算不算耗散系统?我的讨论是,得分三层看:硬件层、训练层、静态模型。我们来看看,曾经轰轰烈烈的耗散结构理论,是否可以借鉴在AI理论的研究中。
这是我百日百篇长篇原创系列的第53篇。
相似文章
@snowboat84: 补充说明一下,关于AI涌现出来的那些现象,scaling law、emergence、双重下降、表征几何,目前相关讨论的论文已经汗牛充栋。但这里有一个很大的问题:他们都在用计算机科学家的方式思考,而不是物理学家的方式思考。 什么是计算机科…
作者评论当前AI研究过多使用计算机科学的思维方式而缺乏物理学方法,提出需要建立如'Cyber Space'的理想系统来奠定理论基础。
@snowboat84: https://x.com/snowboat84/status/2064135804092645410
本文系统梳理了世界模型(world model)这一概念从1943年Craik的心理隐喻到2024-2026年产业爆发的演进历程,详细介绍了符号AI、深度学习流派(Schmidhuber-Ha、Dreamer系列、JEPA、视频生成方向)的核心理念与代表作品,并指出当前定义混乱、各派竞争的现状。
@snowboat84: https://x.com/snowboat84/status/2062686432335184321
这篇文章探讨了物理学与深度学习之间的深层联系,分析了Scaling Law、涌现等现象与物理学中临界标度律、相变等概念的同构性,并梳理了物理方法论在AI中的应用现状与前景。
@freeman1266: 软件工程方法论必须从传统的“状态视角”转向动力系统视角。 核心观点主张“吸引子(Attractor)逻辑优先于治理工具(Harness)”,即首先定义系统应长期收敛的结构不变量,而非仅仅关注局部的约束与验证。 AI作为高频且无持续方向感的…
文章提出软件工程方法论应从状态视角转向动力系统视角,强调吸引子逻辑优先于治理工具,在AI时代需显式建模状态空间、吸引子、轨迹与控制,以应对AI作为高频扰动源导致的架构漂移。
@snowboat84: https://x.com/snowboat84/status/2065215177029787705
本文是AI工程全景系列的中篇,详细介绍了推理优化、模型瘦身(量化、蒸馏、剪枝、MoE)和投机解码等核心技术,综述了从硬件到工程栈的最新进展。