@rohanpaul_ai: 来自MIT新论文的自进化AI科学家好主意。尝试让AI科学家意识到当其当前…

X AI KOLs Following 论文
ai-research scientific-discovery self-evolving-ai mit categorical-framework agentic-ai novelty-ai

摘要

本文讨论了一篇新的MIT论文，提出了一种自进化AI科学家的框架，该框架能够识别当前模型的不足并引入新的科学概念，区分了检索、搜索和发现。

来自MIT新论文的自进化AI科学家的好主意。 尝试让AI科学家注意到当其当前思维方式过于局限时，引入新的科学概念，而不是仅仅更努力地搜索。 问题在于，大多数AI科学系统仍然在固定框架内搜索，而真正的科学有时需要新型的变量、工具、测试或主张。 论文的核心思想是让每个数据点、模型、工具输出、失败和主张都成为类型化产物，类型化意味着系统记录它是什么类型以及如何产生的。 然后系统可以区分检索（添加已知事物）、搜索（探索固定设置）和发现（改变设置本身）之间的区别。 因此，新颖性AI科学家不是由惊喜、流畅性或基准提升来定义的，而是由无法在先前模式中表达的内容来定义。 这是一次严肃的尝试，旨在形式化大多数AI系统仍在伪造的东西：在语言内部找到答案与赢得改变语言的权利之间的区别。 ---- arxiv.org/abs/2606.01444 标题：“Self-Revising Discovery Systems for Science: A Categorical Framework for Agentic AI”
查看原文
查看缓存全文

缓存时间: 2026/06/08 05:14

来自MIT这篇新论文的绝妙构想：让AI科学家实现自我进化。

该论文尝试让AI科学家意识到自身当前思维方式的局限性，从而引入新的科学概念，而非仅仅在原有框架内更努力地搜索。

问题在于，大多数AI科学系统仍在固定框架内进行搜索，而真正的科学有时需要全新的变量、工具、实验或论断。

论文的核心思想是：将每个数据点、模型、工具输出、失败案例和论断都视为类型化产物（typed artifact）。所谓类型化，是指系统会记录该产物属于什么类型以及它是如何产生的。

这样一来，系统就能区分三种情况：检索（添加已知内容）、搜索（在固定框架内探索）以及发现（改变框架本身）。

因此，AI科学家的“新意“并非由惊奇感、流畅度或基准测试提升来定义，而是由“在原有模式中无法表达的内容“来定义。

这是一次严肃的尝试，旨在将大多数AI系统仍在“假装“的事情形式化：即在语言内部找到答案，与赢得改变语言的权利之间的区别。

arxiv.org/abs/2606.01444

标题：“面向科学的自修正发现系统：基于范畴论的代理型AI框架”

Markus J. Buehler (@ProfBuehlerMIT): 我们在自进化AI科学家领域取得了突破，实现了从“搜索“到“原则性发现“的跨越：科学发现要求搜索空间本身发生改变，而AI科学家必须能在无人干预的情况下感知这种转变。我们构建了一个能实现这一目标的AI系统——

相似文章