agentic-abstention

HERA 提出了一种通过共同演化 agent harness 与任务环境来提升 LLM 智能体在不可行任务上弃权能力的框架，将弃权准确率从 61.7% 提升至 83.3%，且可跨 19 个模型迁移，并发布 HERA-Bench 评测基准。

本文定义了智能体回避问题，即决定大型语言模型智能体在不确定性下何时应停止行动的问题，并在网络购物、终端环境和问答场景中进行了评估。文章介绍了CONVOLVE，一种无需更新模型参数即可改善及时回避的上下文工程方法。