AI瓶颈已经转移,大多数人还没有跟上

Reddit r/singularity 新闻

摘要

AI瓶颈已经从能力转向信任和操作可靠性,因为工具现在将手动编排抽象为配置。作者观察到,构建代理比以往任何时候都更容易,但在生产环境中保持可靠性和信任仍然是更难的挑战。

工具的抽象速度比人们心智模型的更新速度更快。最近和一些代理构建者接触了一段时间,不断突出的一个点是,以前的手动编排现在基本上变成了配置。记忆、工具调用、浏览器操作、结构化输出、工作流路由。以前你需要手动构建这些东西。现在你主要是把它们连接起来。这使得“这个能构建吗?”对于许多用例来说成了一个不那么有趣的问题。现在更难的问题感觉是操作性的。可靠性。当代理在工作流中偏离时的恢复。跨更长时间运行的上下文管理。在不监督每一步的情况下控制行为。最近尝试了一些工具,比如Lyzr Architect、zapier,这种转变很快就变得非常明显。瓶颈不再感觉是能力问题。更像是信任问题。这些系统能否真正保持足够可靠,以至于人们不再把它们当作脆弱的演示?好奇如果可靠性真正变得可靠,而不仅仅是“大部分能工作”,人们会真正构建什么样的代理。
查看原文

相似文章

能力不再是AI智能体的主要瓶颈

Reddit r/AI_Agents

作者认为,能力不再是AI智能体的主要瓶颈;相反,操作可靠性——例如从故障中干净恢复以及在长时间运行中保持上下文——成为了新的前沿。