Agentic SABRE：一种面向自适应勒索软件检测的、不确定性感知的神经符号多智能体框架

# Agentic SABRE：一种面向自适应勒索软件检测的不确定性感知神经符号多智能体框架

来源：https://arxiv.org/html/2607.04292

Biju Issac ([email protected]) (https://arxiv.org/html/2607.04292v1/mailto:[email protected])

Jeyamohan Neera

英国纽卡斯尔诺森比亚大学计算机科学学院

###### 摘要

勒索软件已演变为一种复杂、自适应且快速移动的敌手类别，静态签名和单一分类器在概念漂移、规避和行为多态性面前难以泛化。本文提出Agentic SABRE（面向勒索软件评估的语义-行为仲裁框架）：一个不确定性感知、神经符号、多智能体的自适应勒索软件检测框架。SABRE融合了*语义*（基于表示）和*行为*（时间窗口取证遥测）证据，并采用蒙特卡洛Dropout推理为每个智能体量化认知不确定性。我们引入一个决策层编排器，通过两个可解释阈值执行风险与不确定性感知的分诊：风险阈值τ和不确定性预算κ。高置信度、高风险的样本被自动遏制，而不确定或边缘案例则升级给人类分析师，从而在自主响应与分析人员监督之间建立灵活的计算契约。为了支持可审计性和信任，SABRE集成了事后可解释性机制，包括梯度显著性、排列重要性和反事实分析，实现对智能体决策的局部和全局解释。在RDset和RanSMAP上的广泛评估表明，Agentic SABRE在饱和语义数据集上保持完美区分度（AUC=1.0），同时在弱行为信号下提高鲁棒性，在等召回率下实现高达4.9%的相对误升级降低，并保持校准后的预测不确定性。反事实分析进一步表明，语义和行为决策可以在有界扰动成本下翻转，表明决策边界稳定且可解释。总体而言，Agentic SABRE不仅仅是一个更高精度的检测器，而是一个结合了不确定性感知自动化、可解释推理和在不断演变的勒索软件威胁下自适应分诊的智能网络防御系统。

###### 关键词：勒索软件检测，可解释人工智能，不确定性估计，多智能体系统，语义嵌入，数据增强

††期刊：Expert Systems with Applications

## 1 引言

勒索软件已成为最具破坏性的网络犯罪形式之一，现代家族展现出快速变异、行为多态性和高度自适应策略，目的旨在规避传统的基于签名的防御和当代机器学习检测器[10,24]。这些变种经常采用高级混淆、多态性和变形技术来改变操作行为和代码签名，削弱静态检测技术，迫使依赖基于行为和人工智能的方法[10,27]。企业环境现在面临持续的概念漂移，良性和恶意行为随时间演变，训练好的模型除非重新训练或自适应，否则性能会下降[5]。假设固定数据分布的静态分类器，随着攻击者策略的演变，其有效性会迅速衰减[11,24]。这些趋势暴露了单一勒索软件分类器的局限性：这些分类器缺乏不确定性的显式表示，无法在没有昂贵重新训练的情况下适应时间分布变化，并且没有提供校准的人机交互机制——这一差距在恶意软件分析和自适应学习研究中日益被认可。

机器学习已越来越多地应用于勒索软件检测，从经典的基于特征的模型到深入学习的深度学习方法，这些方法作用于系统调用轨迹、文件系统活动、API语义和其他取证遥测数据[2,31]。虽然这类模型可以在分布内实现强性能，但对于分布外样本、新的勒索软件变种或以前未见过的系统行为，它们往往表现不可靠[10]。关键的是，标准神经检测器提供点预测而不量化认知不确定性，这使得很难确定模型何时足够自信以支持自主遏制，或者何时需要人工升级[8]。这种不确定性意识的缺失导致不良的权衡：激进的阈值可能导致灾难性的误报，而保守的阈值则增加分析师工作量并延迟事件响应[17]。

为了解决这些挑战，我们提出Agentic SABRE（面向勒索软件评估的语义-行为仲裁框架），一个不确定性感知、神经符号、多智能体的自适应勒索软件检测框架。SABRE不依赖单一模型，而是将检测分解为专门的*语义*和*行为*智能体，每个智能体在独特但互补的信号上训练。两个智能体都采用蒙特卡洛Dropout来产生校准的认知不确定性估计，使系统能够区分高置信度预测与不可靠或模糊案例。决策层编排器融合智能体分数，并基于风险阈值τ和不确定性阈值κ应用分诊策略，仅在融合预测同时具有高风险和低不确定性时启用自主遏制。不确定或中等风险的样本被安全升级给人类分析师，从而在自动防御与人类监督之间建立原则性接口。此外，SABRE集成了轻量级符号线索（例如ATT&CK战术、API类型本体和启发式规则信号），以支持神经符号推理并提高针对模型盲点的鲁棒性。现有方法量化不确定性以解释预测[19]，而Agentic SABRE则将不确定性操作化以指导系统行动。

### 1.1 贡献

本文做出以下关键贡献：

- 1. 我们提出**Agentic SABRE**，一个整合语义嵌入和行为遥测用于概念漂移下勒索软件检测的多智能体架构。
- 2. 我们开发了一种**不确定性感知推理机制**，使用蒙特卡洛Dropout，使每个智能体能够同时输出预测均值和认知不确定性。
- 3. 我们提出一个**分诊策略**，由风险阈值τ和不确定性阈值κ控制，在自主遏制、升级和良性放行之间实现校准决策。
- 4. 我们通过ATT&CK启发的启发式线索（包括API调用类别指示器、熵阈值信号和勒索软件相关的文件系统访问模式）整合**轻量级符号推理**，这些线索被集成到特征提取和分诊阶段，以丰富的可解释威胁情报信号增强智能体决策，形成混合神经符号检测流水线。
- 5. 通过在多个勒索软件家族和良性工作负载上的广泛实验，我们证明SABRE在漂移下提高了鲁棒性，在等召回率下减少了误升级量，并保持了校准后的预测不确定性。

### 这与基于集成的方法有何不同

多智能体勒索软件检测的一个关键关注点是所提出的系统是否仅仅是伪装的集成。Agentic SABRE在三个方面与传统的集成方法**根本不同**。首先，两个智能体在**结构异构**的输入空间上运行——静态PE嵌入向量（R³⁸⁴）与滑动窗口I/O遥测统计（R¹⁶）——而不是同一特征空间的自举重采样。它们的作用是互补设计，而非冗余。其次，仅凭任何智能体的概率输出本身不能决定分诊决策：编排器还依赖于每个智能体的**认知不确定性**，这在标准集成投票方案中是不可用的。第三，分诊策略是可执行且可解释的——它是一个形式化的控制机制，而非软标签聚合——意味着系统可以在模糊情况下明确地保留自主行动，这是普通集成所不具备的特性。这些特性共同使Agentic SABRE成为智能网络防御系统，而非更高精度的检测器。

### 论文结构

本文其余部分组织如下。第2节提供勒索软件检测的背景，并激励在概念漂移和对抗性演进下需要自适应、不确定性感知防御。第3节回顾勒索软件检测、不确定性量化、可解释安全分析以及神经符号和多智能体方法的相关工作，突出激励拟议框架的局限性。第4节介绍Agentic SABRE架构，包括多智能体设计、通过蒙特卡洛Dropout的不确定性估计、分数融合以及不确定性感知分诊策略。第7节形式化威胁模型和对抗性假设。第8节描述实验设置，包括数据集、特征构建、模型训练和评估协议。第9节报告实验结果，并分析不确定性感知分诊策略在不同操作模式下的行为。第10节展示基于特征敏感性和反事实推理的可解释性和可解释性分析。第11节报告消融研究，检验关键系统组件的贡献。第12节讨论操作含义和理论见解，而第13节概述局限性和未来工作方向。最后，第14节总结全文。

## 2 背景

本节通过回顾勒索软件威胁态势、总结现有检测方法的局限性、并激励拟议框架所需解决的设计需求，为Agentic SABRE建立技术背景。

勒索软件已成为一种主导的网络犯罪形式，由日益复杂的规避、多态性和操作隐匿技术驱动。传统的勒索软件检测方法依赖于签名匹配、启发式规则集或简单的统计异常检测。尽管对已知威胁有效，但此类方法在面对混淆、加密、行为漂移和以前未见过的攻击家族时迅速退化。随着企业系统的演进和勒索软件变种多样化，检测框架必须适应变化的分布，而不是依赖静态假设[10,24]。

机器学习已成为勒索软件检测的有力工具，利用系统调用轨迹、API遥测、文件系统访问模式及相关取证信号[31,2,1]。经典模型和深度神经网络在建模此类行为和语义特征方面显示出前景。然而，纯基于模型的检测面临三个持续挑战。首先，数据不平衡仍然严重，因为良性活动主导操作遥测。诸如SMOTE的过采样技术和诸如CTGAN的生成模型已被提出以缓解少数类稀缺，改善训练稳定性并提高对罕见恶意事件的表示[7,29]。其次，使用Transformer和其他基于嵌入的架构的语义建模改善了对系统日志和API序列的上下文理解，但这些模型在概念漂移和分布外（OOD）条件下往往缺乏鲁棒性[10]。第三，大多数现有的机器学习检测器仅提供点预测，而不量化预测不确定性，这使得确定模型的输出是否足够可靠以驱动自主遏制决策变得困难[12,13]。

网络安全领域最近的工作开始探索不确定性量化作为解决部署中模型不可靠性的手段[12,13,19]。诸如蒙特卡洛Dropout和深度集成方差估计等技术允许检测器在预测概率旁边表达置信水平。这在误报产生操作成本而漏报造成严重损害的高风险应用中至关重要。尽管如此，大多数现有网络安全系统仅将不确定性用作辅助诊断工具，而不是将其集成到结构化的分诊或升级策略中。结果，模型不确定性很少被纳入可操作的决策制定中，也不用于确定何时应将可疑活动升级给人类分析师。

与这些发展并行，神经符号和多智能体架构因其模块化和可解释性而获得关注[4]。多智能体设计允许不同模型专门处理行为的互补方面，例如语义表示与资源级遥测，从而在复杂环境中实现更鲁棒的检测。符号线索——例如ATT&CK战术、API本体和手工制作的行为规则——也被用于增强可解释性并减少纯神经系统的盲点。然而，大多数先前系统将多智能体融合视为简单的集成过程，很少整合不确定性感知推理或用于校准自动化的显式策略。

总之，先前的研究在数据增强、语义嵌入、行为建模、多智能体架构和可解释性技术方面取得了进展，但这些努力往往孤立地处理每个挑战。现有系统通常缺乏：(i) 在不同行为和语义通道上专门化的模块化智能体，(ii) 智能体层面的原则性不确定性量化，(iii) 结合风险和不确定性的校准融合机制，以及 (iv) 将模型置信度与自主或人在环决策联系起来的结构化分诊策略。先前对勒索软件检测研究的调查强调了这些碎片化的努力，并指出了统一、可操作的框架中的空白。