@rohanpaul_ai: 更强的AI智能体不仅来自更大的模型,更来自围绕它们的更优系统。问题在于,许多AI…

X AI KOLs Following 论文

摘要

该推文讨论了论文《从模型规模化到系统规模化》,该论文认为,更强大的AI智能体需要更好的系统设计(框架),包括上下文控制、记忆和路由,而不仅仅是更大的模型。

更强的智能体将不仅仅来自更大的模型,而是来自围绕它们构建的更优系统。 问题是,许多AI智能体被评估时,仿佛所有工作都由模型独立完成,而实际行为还依赖于记忆、工具、上下文、路由、检查和权限。 围绕智能体的这套外部设置被称为框架(harness),即决定模型能看到什么、能使用哪些工具、能记住什么、以及哪些动作需要被检查的系统。 进步应来自于规模化这个框架,尤其是三个部分:更好的上下文控制、更可信的记忆、以及更优的工具或辅助智能体路由。 长上下文不等于可用上下文,记忆不等于可信记忆,拥有众多工具也不等于知道何时使用它们。 一条过时的笔记可能比没有笔记更危险,因为它恰好会在智能体应该重新核查现实时给予其错误的自信。 一个专门的子智能体也可能悄然失败——如果它的输出听起来可信,但后续没有任何验证层来核实其真实性。 这正是为什么一次性基准测试得分越来越显得单薄。 两个智能体可能得出相同的最终答案,但其中一个消耗了多得多的令牌、进行了风险更高的工具调用、携带了损坏的记忆,或者只是侥幸成功。 下一个前沿不仅是规模化机器内部的思维。 而是规模化围绕它的纪律。 ---- – arxiv.org/abs/2605.26112 标题:“从模型规模化到系统规模化:规模化代理AI中的框架”
查看原文
查看缓存全文

缓存时间: 2026/07/09 15:38

更强的智能体不仅来自更大的模型,更来自围绕它们构建的更好系统。

问题在于,许多AI智能体的表现被评判时,仿佛工作成果仅由模型独立完成,尽管实际行为还依赖于记忆、工具、上下文、路由、检查和权限。

这种围绕智能体的外部配置被称为“框架”(harness),即决定模型能看到什么、能使用哪些工具、能记住什么以及哪些操作需要审核的系统。

进步应来自扩展这个框架,尤其是三个部分:更好的上下文控制、更可信的记忆、以及更高效的路由(通向工具或辅助智能体)。

长上下文不等同于可用上下文,记忆不等同于可信记忆,拥有大量工具也不等同于知道何时使用它们。

过时的笔记可能比没有笔记更危险,因为它恰恰在智能体应当重新核对现实情况时,给了它盲目自信。

一个专门的子智能体也可能悄然失败——如果它的输出听起来合理,但后续没有层去验证其真实性。

这就是为什么一次性基准测试的分数越来越显得单薄。

两个智能体可能得出相同的最终答案,但其中一个消耗了远更多的令牌、冒更大风险调用工具、携带了被污染的记忆,或者仅仅是偶然成功。

下一个前沿不仅在于扩展机器内部的心智。

更在于扩展围绕它的纪律。

——arxiv.org/abs/2605.26112

标题:《从模型扩展到系统扩展:扩展智能体AI的系统框架》

相似文章

观点:Agentic AI系统是实现AGI的可预见路径

arXiv cs.AI

本文认为,单一模型的单体型扩展不足以实现AGI,并提出具有多智能体协作的Agentic AI是必要的范式,理论上证明了代理系统在泛化和样本效率上具有指数级优势。