你的LLM不应该是你的编码智能体工作流

Reddit r/openclaw 新闻
coding-agents llm-workflow software-architecture infrastructure best-practices

摘要

主张在编码智能体工作流中，LLM应仅用于推理，而由确定性基础设施处理队列、状态、重试和恢复，这样即使达到使用限制，流程也不会中断。

如果你的编码智能体工作流在达到LLM使用限制时停止工作，那说明LLM做得太多了。我是在使用OpenClaw构建时学到这一点的。模型应该对工作进行推理，而不应该成为工作流本身。队列、状态、重试、调度、验证、回执和恢复都可以以确定性的方式持续运行。只有在真正需要判断时才调用LLM。这种分离正是将编码智能体循环从“不断提示它”转变为真正可运行的基础设施的关键。
查看原文

相似文章

选择大语言模型擅长与不擅长的任务

Reddit r/AI_Agents

该文章强调，大语言模型在处理模糊判断任务方面表现卓越，但在执行一致性计算时表现平平，因此主张在多智能体系统中实现任务专门化。

你的LLM提示词有200行。你真的知道智能体遵从了多少吗？

Reddit r/AI_Agents

本文讨论了在生产环境中评估和监控基于LLM的智能体所面临的挑战，涵盖离线评估、提示工程陷阱、可观测性工具、审查队列、标注、聚类、主题分类，以及将人工审查、LLM作为评判和小型分类器进行成本分层的方法。