cascading

该论文在 LLM-AggreFact 的 495 条主张上，评估了非生成式决策模型 Jev 与前沿大语言模型（gpt-6-astra）在 RAG 主张验证任务中的表现，发现两者的总体准确率在统计上无显著差异，成本却相差 187 倍，且错误分布差异很大；研究还表明，基于置信度门控的级联系统可以降低成本，但表现并未优于条件匹配的随机升级对照方案。

本文提出了一种基于置信度门控的混合系统，用于对话式AI中的情感识别。该系统将大多数流量路由通过低成本集成模型，并将不确定案例升级到LLM，从而在提高准确性的同时，降低CCaaS平台的成本和延迟。

讨论了级联恢复和反馈循环如何在分布式系统中导致亚稳态故障，阻止正常恢复。