complex-systems

本文探讨了使用AI代理处理运维任务（如值班工作）的兴起趋势，但警告其复杂性可能导致意外可靠性事件，并引用了安全会议上的近期演讲和案例。

本文讨论了复杂系统失效的基本原理，强调失效是固有的，而灾难需要多个同时失效的事件发生。

A tweet from DAIR AI highlights new research by Sakana AI introducing CEDAR, an LLM-agent method that designs, simulates, and refines complex system-dynamics models via Monte Carlo Tree Search over feedback structures, aiming to automate goal-directed design in artificial life.

介绍了CEDAR，一种自主方法，利用LLM智能体结合蒙特卡洛树搜索来发现满足用户指定行为目标的复杂系统，减少了人工投入，并实现了目标导向的设计。

本文提出了一种通过'规则学'概念理解软件漏洞的新理论框架，可能借鉴了Stephen Wolfram的计算思维。

本文应用Halpern & Pearl的实际因果关系理论到故障树，通过回答系统为何发生故障来实现故障诊断。它对实际因果关系的概念进行了分类，将其与最小割集联系起来，并讨论了计算复杂性和算法。

本文介绍了一个包含十个复杂系统的基准，用于验证因果抽象度量，评估了三十多个候选度量，并提出了因果抽象误差（CAE）作为一种通用的有效性度量，能够可靠地区分有效与无效的解释。

本文通过将机器学习（尤其是神经网络）的学习过程视为复杂动态系统，分析了其为何在学习过程中保持不透明，指出了导致学习不透明性的三个关键特性，并论证了某些不透明源可能是不可约的。

这是一篇长达两万五千余字的科普文章，从熵的起源讲起，回顾了耗散系统理论的发展历程，并探讨了AI是否属于耗散系统的三层分析（硬件层、训练层、静态模型）。

本文介绍了层次涌现框架（HEF），该框架解释了在物理和信息约束下，通过机制景观中的相变，神经网络和生物进化等多样系统如何收敛到相似的内部表示。该框架通过111个grokking实验进行了实证验证，这些实验确认了通用收敛，并识别出一个临界能量阈值。

本文讨论了AI编码代理如何要求工程师接受他们可能无法完全理解所创建的复杂系统，并借鉴了自然资源管理等其他领域的经验。

应用图谱分析（Fiedler值）和Scheffer临界减速指标来预测神经网络中的grokking，在损失函数变化前21,000步检测到它，在五个可重复实验中。

用户分享了与Claude对话后得到的一份关于如何在复杂模糊系统中前行的书单推荐，包括Donella Meadows的《系统之美》等书籍。