false-success

本文描述了LLM智能体中的“虚假成功”现象，即智能体声称任务已完成，但环境状态显示并非如此。研究发现，在多个基准测试中，虚假成功占失败的45%-75%。LLM评判器无法可靠检测到这一现象，而轻量级TF-IDF检测器能以更低延迟实现高AUROC，提示生产监控应使用校准检测器而非LLM评判器。