有人能帮我理解AI Agent的用例或让我信服吗？

Reddit r/AI_Agents 新闻
ai-agents workflow-automation use-case software-development llm control accountability

摘要

一位软件开发者质疑AI Agent的实际价值，表达了对控制权、问责制的担忧，并怀疑手动自动化结合LLM是否比委托给自主代理更可靠。

***Edit***: 在阅读这篇文章之前，我想说明我绝不是要贬低AI Agent。我只是很难理解为什么我需要使用它，感觉好像错过了什么或没有理解它。* 我是一名软件开发者，经常在工作流程中使用LLM。它们作为研究/资源聚合器非常有价值，帮助我学习和实现软件/功能的速度提升了两倍！但我也意识到它们的局限性，尤其是在遇到我觉得自己在与AI对抗的情况时，因为它失去了方向/产生了幻觉，或者它的上下文变得过于复杂。我看到很多评论（以及Anthropic网站上）建议人们使用Agent来处理更简单的工作流程，因为在这些情况下它们可以完成很多事情。但鉴于我对自动化有相当的了解，我发现很难接受AI Agent的用例。如果你足够懂技术，直接用LLM加速学习并自己构建自动化工具来解决大多数问题，不是比交给AI Agent并指望它产生正确结果更容易吗？即使我是为外部使用而构建Agent，我仍然想自己构建，这样只在必要时使用AI，以免在交给客户使用时信任一个黑箱。我只是很难接受使用AI Agent时缺乏问责或控制。我意识到AI Agent能让你的工作流程快两倍，但你们如何确保完全理解你的Agent在做什么并验证其工作？当我使用像ChatGPT这样的工具时，我采用自上而下的方法来研究如何完成任务，然后用非常细致指令的自下而上的方法来更快地构建我需要的东西。AI Agent如何适应这种模式，它们是否真的值得投入精力？
查看原文

相似文章

停止构建AI智能体。

Reddit r/AI_Agents

作者认为，大多数要求构建AI智能体的创始人实际上只需要简单的自动化流程，并辅以最少的LLM集成，理由包括生产环境故障、合规障碍，以及更简单工作流带来的更高投资回报率。文章提供了一个实用的决策框架，帮助开发者和创始人优先考虑可靠的自动化，而非复杂且不可预测的智能体。