标签
本文介绍了语言模型中的'明晰的失败'，即模型在隐藏状态中拥有正确信息但未能使用，并表明线性探针可以通过引导干预检测和修复此类失败。
本文提出RUPA，一个框架，将LLM智能体的执行建模为依赖图以传播不确定性，改进长轨迹中的故障检测和置信度估计。
关于AI智能体经常将“错误清除”与“任务真正解决”混为一谈的反思，以及需要一种结构上不同的第二验证步骤来捕获被掩盖的失败。
本文识别了神经网络在错误分类期间内部激活中的频谱漂移，并引入了自检测神经网络（SDNN），通过监控频谱动态来检测故障，在CIFAR-10上实现了79%的AUROC，比基于置信度的方法高出25-30个百分点。
本文提出一种两阶段在线学习框架，通过对正常流量动态进行建模并分析残差，检测移动核心网中影响业务的故障，相比静态阈值取得了更优的精确率-召回率权衡。
本文提出了一种召回控制的中止级联方法，通过在LLM代理的内部表示上使用轻量级探针，早期检测并中止注定失败的任务轮次，在保持高召回率成功轮次的同时，最多可节省47%的推理计算量。
Foresight 是一个用于长时域机器人操作的故障检测框架，它利用基于动作条件的世界模型潜在表示和功能性保形预测来监控轨迹，仅使用最终任务标签进行训练。在仿真和真实机器人任务中均展示了最先进的性能。
关于智能体记忆的社区讨论显示，尽管在记录什么（如纯文本文件、分层记忆、事后总结）方面存在各种补丁方案，但未解决的问题是保留什么——检测失败是可处理的，但决定哪些教训应持续保留仍需要人类判断。
本文通过词元级不确定性信号，刻画了语言模型在推理中失败的两种不同过程——承诺性失败与持续性不确定性，并展示了其对自一致性及失败检测策略的启示。
AEGIS 使用激活探针早期预警，在长时域机器人操作中故障累积之前切换到更强的策略，恢复的故障次数是预算匹配升级策略的两倍。
Hide-and-Seek是一个通过对比学习定位故障指示动作来检测VLA模型中机器人执行故障的框架，无需步骤级标注，实现了最先进的多任务故障检测性能。
本文比较了交叉验证集成与深度集成在医学图像分割中的不确定性估计。深度集成在校准和故障检测方面优于交叉验证集成，而交叉验证集成能更好地近似评估者间变异性。