论文页面 - 先派出SCOUT：提示注入防御中自适应检测器分配的预推理

来源：https://huggingface.co/papers/2605.30837

摘要

SCOUT框架通过预测检测器的可靠性和延迟，动态分配提示注入检测，相比固定的单一检测器方法，提升了安全性和效率。

提示注入检测器（https://huggingface.co/papers?q=Prompt-injection%20detectors）具有异构性：每个检测器在不同攻击类型上表现各异，没有哪个检测器始终可靠。然而，现有系统仍将检测视为固定的单一检测器管道，将所有请求交由同一检测器的盲区处理。我们重新将防御定义为检测器分配（https://huggingface.co/papers?q=detector%20allocation）：面对异构检测器池，针对每个请求决定运行哪些检测器，以及是否升级到LLM评审。我们的框架SCOUT（https://huggingface.co/papers?q=SCOUT）（可扩展与可控的面向不确定性分诊的结果预测（https://huggingface.co/papers?q=Uncertainty-aware%20Triage)）通过预测每个检测器在相似历史输入上的逐样本可靠性和延迟，实现了动态决策，并向操作员暴露一个单一的安全-效用阈值（https://huggingface.co/papers?q=safety-utility%20threshold）（其中效用综合了良性通过率（https://huggingface.co/papers?q=benign-pass%20rate）和实际耗时（https://huggingface.co/papers?q=wall-clock））。为评估这一设定，我们构建了SCOUT-450（https://huggingface.co/papers?q=SCOUT-450）基准，该基准包含了结构复杂、面向智能体的注入，这些注入在旧版提示注入集中代表性不足。在SCOUT-450（https://huggingface.co/papers?q=SCOUT-450）上，一个面向安全的工作点将攻击成功率（https://huggingface.co/papers?q=attack-success%20rate）降低了46%，总实际耗时（https://huggingface.co/papers?q=wall-clock）相比始终开启的GPT-4o评审（https://huggingface.co/papers?q=GPT-4o%20judge）降低了40%，而良性效用仅下降5.1分。SCOUT（https://huggingface.co/papers?q=SCOUT）同样适用于三个外部基准（BIPIA（https://huggingface.co/papers?q=BIPIA）、IPI（https://huggingface.co/papers?q=IPI）和IHEval（https://huggingface.co/papers?q=IHEval）），改进了安全-效用前沿。

查看arXiv页面（https://arxiv.org/abs/2605.30837）查看PDF（https://arxiv.org/pdf/2605.30837）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2605.30837）

在您的智能体中获取该论文：

hf papers read 2605.30837

没有最新版CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型0

无模型链接该论文

请在一个模型README.md中引用arxiv.org/abs/2605.30837以从该页面链接。

引用该论文的数据集0

无数据集链接该论文

请在一个数据集README.md中引用arxiv.org/abs/2605.30837以从该页面链接。

引用该论文的Space0

无Space链接该论文

请在一个Space README.md中引用arxiv.org/abs/2605.30837以从该页面链接。

包含该论文的收藏1