production-ml

本文讨论了在生产环境中评估和监控基于LLM的智能体所面临的挑战，涵盖离线评估、提示工程陷阱、可观测性工具、审查队列、标注、聚类、主题分类，以及将人工审查、LLM作为评判和小型分类器进行成本分层的方法。