如何处理生产环境中AI代理的工具/模型发生变动？
摘要
一个讨论贴，询问开发者如何处理AI代理依赖的工具、API或模型版本在生产环境中发生变化的情况，包括检测、修复和成本。
如果你在生产环境中运行AI代理——当你的代理依赖的工具、库、API或模型版本在背后发生变化时，是什么导致出问题或耗费时间？你是如何发现它出错的？（用户投诉、日志、自己发现）你是如何修复的——手动修补、回滚，还是直接忽略？最后一次大概花了多少时间/金钱？不是推销产品，只是想真正了解这个问题到底有多大。非常感谢任何真实案例。
相似文章
当更好的模型/工具出现时，您如何保持AI代理的技术栈更新？
作者讨论了在模型和工具不断演进的情况下保持AI代理技术栈更新的挑战，并寻求生产团队关于基准测试和更新实践的见解。
你们是如何处理AI代理在生产中中途任务失败的？以及这种情况对你们来说有多频繁？
一个讨论提问，询问开发者如何处理AI代理在生产中中途崩溃的情况，探讨重启、持久化状态、使用检查点或手动检查等方法。
在生产环境中，你们如何在代理执行错误工具调用之前捕获它们？
关于在AI代理执行到生产环境之前检测和防止错误工具调用策略的讨论。
你究竟如何调试AI代理？
开发者分享了在生产环境中调试AI代理的困境，指出了幻觉问题、提示词更改导致的回归以及高昂的API成本，并向社区征求策略。
监控和审计自主AI代理运行时行为的最佳工具：生产环境中哪些真正有效？
一位从业者分享了在生产环境中监控自主AI代理的挑战和工具，涵盖了运行时提示注入检测、带推理轨迹的工具调用审计、行为漂移检测以及多代理授权，同时测试了Arize Phoenix、Protect AI Guardian、Metoro、Alice、Asqav和Microsoft Agent Governance Toolkit等工具。