@MaximeRivest: 乍一看:> 结构方程模型 (SEM/路径分析) > 神经常微分方程 (Neural OD…

X AI KOLs Following 新闻

摘要

作者将结构方程模型、神经常微分方程和类似DSPy的AI程序进行比较,认为它们都是用于定义和优化计算图的声明性框架,并论证了结构化流程对于可信AI代理至关重要。

乍一看: > 结构方程模型 (SEM/路径分析) > 神经常微分方程 (Neural ODEs) > AI程序 (如DSPy) 属于完全不同的领域。 然而,它们共享一个基本架构,这使得它们各自成为我们(人类)与未知/概率/不确定性打交道的强大方式。 这三者都是用于定义和优化计算图的声明性框架。 1. 结构与优化的分离: 在这三者中,你(人类)定义问题的结构或信息的流动。你搭建好“骨架”。然后,底层的引擎(优化器、求解器或Teleprompter)计算出具体的权重、参数或提示,使你的骨架匹配现实或达成目标。 2. 模块化组合: 它们都将较小的操作视为可以链接在一起的构建块。一个节点/模块的输出成为下一个节点的输入。 3. 数据驱动的对齐: 这些模型都不是静态的。无论是最小化SEM中的协方差差异、最小化Neural ODEs中针对时间序列数据的L2损失,还是使用GEPA等优化器来提高LLM在DSPy中的准确性,它们都基于经验数据更新内部状态。 我坚信,只要AI代理仍然建立在无结构的、纯数据驱动的系统(LLMs,基本上是令牌进令牌出)上,而不是建立在具有模块化骨架的结构化信息流上——其中某些部分可以通过经验数据优化,而其他部分则是明确设计的(确定性、层次化控制流)——那么AI代理将无法完全信任。这将阻止那些编码代理达到完全自动化所需的极高可靠性(多个九)。完全自动化与那种只是部分有效的自动化完全不同。
查看原文
查看缓存全文

缓存时间: 2026/06/03 15:52

乍看之下:

结构方程模型(SEM/路径分析) 神经常微分方程(Neural ODEs) AI 程序(如 DSPy)

似乎属于完全不同的领域。

然而,它们共享一个基本架构,这使得它们各自成为我们(人类)探索未知/概率/不确定性世界的强大工具。

这三者都是用于定义和优化计算图的声明式框架。

  1. 结构与优化的分离

在这三者中,你(人类)定义问题的结构或信息的流动。你搭建好“骨架”。然后,一个底层引擎(优化器、求解器或遥测提示器)找出所需的特定权重、参数或提示,使你的骨架匹配现实或达成目标。

  1. 模块化组合

它们都将较小的操作视为可以串联在一起的构建块。一个节点/模块的输出成为下一个节点的输入。

  1. 数据驱动的对齐

这些模型没有一个是静态的。无论是 SEM 中的协方差差异最小化、Neural ODEs 中针对时间序列数据的 L2 损失最小化,还是使用像 GEPA 这样的优化器来提高 DSPy 中的 LLM 准确率,它们都基于经验数据更新其内部状态。

我坚信,只要 AI 智能体仍建立在无结构、纯粹数据驱动的系统(如 LLM,主要是 tokens 进和 tokens 出)之上,而非建立在具有模块化骨架的结构化信息流上——其中某些部分可通过经验数据优化,其他部分则明确设计(确定性、层次化控制流)——那么 AI 智能体将永远无法被完全信赖。这将阻止那些编码智能体达到完全自动化所需的极高可靠性(多个九)。完全自动化与那种“勉强能动”的自动化完全不同。

如果我的编码智能体是我的员工,我会解雇它们。我不在乎它们(有时)是个出色的程序员。

如果你不可信赖,而且不从中吸取教训,那你就是个负担。

相似文章

使用大型语言模型驱动的代理系统自动发现生物系统的常微分方程

arXiv cs.AI

本文介绍了MEDA,一个由LLM和符号回归驱动的代理框架,用于自动发现生物动态系统的常微分方程(ODE)模型。它检索背景知识,提出候选ODE,并在典型模型检索、外推和开放式发现任务中评估这些模型,展示了强大的结构恢复能力和生物学上合理的模型。

从代理循环到结构化图的转变,及其背后的研究

Reddit r/AI_Agents

一篇技术文章讨论了在生产级AI代理工作中从代理循环到结构化图的转变,并引用了持久化执行引擎(Temporal、Restate)以及AFlow等研究——AFlow使用蒙特卡洛树搜索来优化工作流图。

用于自动神经算子发现的智能体AI科学社区

arXiv cs.LG

本文提出了一种由虚拟实验室组成的智能体AI科学社区,能够自主发现用于偏微分方程问题的神经算子架构。通过引用经济体系下的LLM规划器、数值工作者和评审者,该系统生成了高精度的混合架构,结果表明算子家族之间不存在普遍优胜者。