escalation

该论文提出了一个受扰动控制的医疗LLM智能体基准测试，包含400个多轮episode，评测在缺失、过时、冲突和迟到信息下的升级/拒答决策能力。结果显示模型在干净环境下准确率达0.97，但在不确定性扰动下漏掉32-97%的必要升级，且基于词汇规则的控制器在未见过的同义改写下召回率降至0。

本文讨论了AI代理在陷入困境时不升级失败的问题，并建议实施显式检查或断路器以提高生产环境中的可靠性。

Fortune报道了OpenAI的非常规管理系统，包括一个用作升级路径的“friction@”收件箱，以保持初创企业般的速度，Sam Altman和Greg Brockman也有参与。

文章指出了WhatsApp上AI助手转接人工的一个常见失败点：机器人说会转接，但无人回应，从而破坏信任。文章概述了一个解决方案，包括模式追踪、历史注入和真实任务创建。