昨天发帖讨论了智能体调试的恶性循环。回复教会我的比帖子本身更多。

昨天发帖谈了谈调试AI智能体有多痛苦，主要是些老生常谈：提示词重写、追查幽灵bug、在错误环境中测试。本以为会收到几个“确实如此”的评论。没想到回复里实际信息比我的帖子还多。有几条说法让我印象深刻：有人指出，“10分钟前还正常”的调试是最糟糕的，因为这种氛围没有堆栈跟踪可查。他们的解决方法是：记录每个工具调用的输入和输出，并重放确切调用，而不是重新运行整个流程。显然，一旦你能看到参数出错的那次调用，一半的奇怪失败就消失了。另一个人描述了让他崩溃的问题：智能体输出每天悄无声息地变化，没有明显原因。修复方法不是更好的提示词，而是在LLM和工具调用层之间放置一个结构化输出验证器，强制重试直到模式真正匹配。虽然还有凌晨两点的抓狂时刻，但现在原因是配置漂移，而不是幽灵。最犀利的重构观点是：可靠性必须来自模型周围的系统，而不是更好的提示词本身。将行为分解成小的可测试步骤，并对它们执行严格规则。失败的工具调用绝不能变成成功确认。未知必须保持未知。过时的上下文不能覆盖当前状态。这完全不同于“只要写更好的系统提示词”，一旦有人点明，就显然正确。这有点提醒，帖子本身不是价值，它是吸引价值的诱饵。那些真正可靠交付这些产品的人，都在评论区里，而不是在写热点文章。