CogGuard：边缘智能服务中用于主动预警的认知与操作画像构建

# CogGuard：面向边缘智能服务的认知与操作画像驱动的主动预警系统 来源: https://arxiv.org/html/2606.15199  
Zhi Yao2,1, Weihao Chen3, Zhiqing Tang1,🖂, Hanshuai Cui2,1, Qianli Ma1,3, Weijia Jia1,4,🖂, Wei Zhao5  
本研究部分受国家自然科学基金（NSFC）资助，项目号 62272050 和 62302048；部分受广东省人工智能与多模态数据处理重点实验室（北京师范大学-香港浸会大学联合国际学院，珠海）2023-2024 年度广东省教育厅资助；部分受广东省科学技术厅人工智能与未来网络研究院及人工智能与未来教育工程中心资助；部分受珠海市科技创新局资助，项目号 2320004002772；部分受北京师范大学（珠海）跨学科智能超级计算中心资助。  
（通讯作者：汤志清、贾维嘉。）

######  摘要

主动预警是边缘智能服务的一项重要能力：系统需在严格的延迟和隐私约束下，预测某个主体能否成功完成即将到来的任务。这种预测既依赖于长期静态属性，也依赖于从历史交互日志中提取的短期动态状态。近年来，大型语言模型（LLMs）凭借其强大的长上下文推理能力，可从这些日志中构建结构化画像，但现有解决方案在边缘部署时面临两大挑战：(1) 画像方法通常领域特定，缺乏跨服务场景的可复用抽象；(2) 在异构边缘集群上微调对齐模型时，由于输入序列长度差异大，导致同步开销高。为应对这些挑战，本文提出 CogGuard——一种面向边缘智能服务的主动预警框架。CogGuard 通过共享的“静态-动态画像到分数”流水线，将离线的基于 LLM 的画像构建与在线的基于小语言模型（SLM）的分数预测解耦，并在两个代表性场景中实例化：学业成绩预警和运维任务结果预警。为高效构建画像，我们设计了场景特定的画像方法，并采用前缀对齐的 KV 缓存复用技术，以减少重复编码开销。针对边缘侧模型对齐，我们提出了一种基于长度感知的分布式微调策略，并辅以对比正则化，以缓解异构集群上的负载不均衡问题。在教育和运维数据集上的实验表明，CogGuard 最多可将画像构建时间减少 48%，分布式微调时间减少 19%，同时在 100 分制的预警任务上分别达到 13.4 和 5.9 的 MAE。在最大的教育场景中，与最强基线相比，CogGuard 将预测误差降低了 15.4%。

## I 引言

人工智能正在改变教育辅导和工业运维等高风险服务领域。在这些高频交互场景中，大型语言模型（LLMs）正从指令执行工具演变为具备认知分析能力的决策智能体[1 (https://arxiv.org/html/2606.15199#bib.bib45)]。为了提供个性化的行为分析和预警，LLMs 必须从海量非结构化交互日志中构建准确的用户认知画像，并识别错误的根本原因[28 (https://arxiv.org/html/2606.15199#bib.bib46) , 40 (https://arxiv.org/html/2606.15199#bib.bib38)]。然而，传统的云端 AI 服务无法满足这些场景对数据隐私和实时响应的要求。边缘智能通过将模型计算从远程云端卸载到边缘服务器，提供更低延迟的服务，同时更好地保护用户数据[22 (https://arxiv.org/html/2606.15199#bib.bib39) , 35 (https://arxiv.org/html/2606.15199#bib.bib47)]。在此背景下，主动预警正成为边缘智能服务的一项重要能力：系统需在严格的延迟和隐私约束下，预测主体能否成功完成即将到来的任务。这种预测依赖于从历史交互中提取的长期静态属性和短期动态状态。然而，在边缘构建主动预警服务面临两大障碍。首先，从海量历史日志中构建准确的画像计算密集[25 (https://arxiv.org/html/2606.15199#bib.bib40)]，但由此产生的多级画像只能由高参数模型完全解读，而这并不适合边缘部署[39 (https://arxiv.org/html/2606.15199#bib.bib42) , 32 (https://arxiv.org/html/2606.15199#bib.bib48)]。其次，虽然微调后的小语言模型（SLM）为边缘推理提供了轻量级替代方案，但在异构边缘集群上进行分布式微调会遭遇同步瓶颈，现有方法尚未充分解决这一问题[9 (https://arxiv.org/html/2606.15199#bib.bib43) , 3 (https://arxiv.org/html/2606.15199#bib.bib51)]。因此，边缘智能服务中面向主动预警的认知与操作画像构建是一项迫切需求，但仍存在两大挑战。**第一个挑战：如何从随时间变化的主体状态中快速可靠地构建结构化画像，以服务于边缘主动预警服务。** 主动预警需要准确捕捉外部任务实体和用户内部认知水平对任务结果的影响[14 (https://arxiv.org/html/2606.15199#bib.bib44)]，这需要复杂且冗余的模型计算来进行认知分析。现有方法将历史特征映射到知识图谱上，并在后续服务中使用构建的结构化画像[30 (https://arxiv.org/html/2606.15199#bib.bib37)]。然而，传统的图谱构建方法不加区分地提取所有实体关系，降低了表示质量，后续的图谱聚类也会导致高延迟[41 (https://arxiv.org/html/2606.15199#bib.bib41)]。此外，现有的画像方法通常领域特定，缺乏一个能够无缝集成到下游预测服务中的语义接口。这导致在为新场景重新构建对齐流水线时产生大量开销，使得在异构边缘集群上部署可泛化的主动预警服务变得困难。**第二个挑战：如何缓解分布式边缘微调中由工作负载异构性引起的同步瓶颈。** 在资源受限的边缘服务器上微调 SLM 非常耗时，且不同历史日志的输入序列长度差异很大，导致各训练服务器间的计算不均衡。现有的分布式训练方法通过基于硬件异构性自适应分配批次大小来降低成本[9 (https://arxiv.org/html/2606.15199#bib.bib43)]，但这些以硬件为中心的方法仅根据设备计算能力调度工作负载，未考虑训练样本复杂度的差异。特别是，用户日志序列长度的高度方差会导致严重的掉队问题：更快的节点会因等待处理较长序列的慢速节点而空闲。如何在这种边缘集群上的输入级异构性下高效协调分布式微调，仍然是一个悬而未决的问题。

参见图注
图 1：CogGuard 概览。

为解决上述挑战，本文提出 CogGuard，如图 1 (https://arxiv.org/html/2606.15199#S1.F1) 所示——一种结合结构化画像与高效分布式模型微调的边缘智能服务主动预警框架。CogGuard 采用大小模型协作的方式，平衡推理能力与边缘推理延迟。高性能 LLM 负责离线提取结构化画像的复杂任务，而微调后的 SLM 则部署在资源受限的边缘节点上，用于实时主动预警。该框架分为两个阶段：场景特定画像构建（从历史日志中构建结构化服务上下文），以及画像到分数的对齐（通过长度感知调度和对比正则化微调 SLM）。在教育和运维场景上的实验证明了所提流水线在两个代表性主动预警环境[19 (https://arxiv.org/html/2606.15199#bib.bib33)]中的有效性。CogGuard 的核心设计原则是将昂贵的场景特定画像构建与轻量级的共享画像到分数对齐解耦。前者允许每个服务场景使用自己的画像逻辑，后者则提供了一个可复用的预测接口。为了使这种对齐在输入和状态异构性下仍然鲁棒，CogGuard 进一步引入了结构化标记令牌、长度感知训练分区和状态敏感性正则化。我们的主要贡献总结如下。

1.  **问题形式化。** 我们将边缘智能服务中的主动预警形式化为一个静态-动态画像到分数的预测问题，其中任务结果共同取决于长期主体属性、时变状态以及当前任务上下文。
2.  **结构化画像。** 我们提出了一种场景特定的画像机制。对于教育日志，一种双图认知画像方法将用户追踪解耦为实体关系图和知识概念图，并采用前缀对齐的 KV 缓存复用策略，以减少重复的长上下文编码开销。对于运维日志，通过受控混沌测试构建静态硬件和动态运行时画像。
3.  **高效对齐。** 我们引入了一种长度感知的分布式微调策略，根据输入序列长度划分训练数据，以缓解异构边缘集群上的掉队问题，并提出了一个对比正则化目标，防止模型依赖静态问题内容而非个性化的画像状态。
4.  **跨场景验证。** 我们通过为每种画像方法构建专门的数据集，在教育与运维边缘服务场景中实例化了该框架。结果表明，共享的“画像到分数”对齐流水线能够有效应用于两种不同的主动预警场景。

本文其余部分组织如下：第 II 节 (https://arxiv.org/html/2606.15199#S2) 回顾相关工作。第 III 节 (https://arxiv.org/html/2606.15199#S3) 详细介绍我们的数据集构建方法。第 IV 节 (https://arxiv.org/html/2606.15199#S4) 详细描述我们的方法。第 V 节 (https://arxiv.org/html/2606.15199#S5) 介绍实验设置与结果。最后，第 VI 节 (https://arxiv.org/html/2606.15199#S6) 总结全文。

## II 相关工作

### II-A 结构化画像与 Graph RAG

传统的知识追踪（KT）方法，如 DKT[21 (https://arxiv.org/html/2606.15199#bib.bib14)]，预测准确率高但缺乏可解释性。最近的工作通过利用 LLM 构建认知图谱来解决这一局限[10 (https://arxiv.org/html/2606.15199#bib.bib17) , 13 (https://arxiv.org/html/2606.15199#bib.bib16)]。例如，[31 (https://arxiv.org/html/2606.15199#bib.bib15)] 使用 LLM 智能体构建认知原型并模拟具有不同认知水平的学生，但它依赖于有效的检索，无法直接量化学生的掌握程度。除了教育场景，Graph RAG 也广泛应用于运维环境[27 (https://arxiv.org/html/2606.15199#bib.bib10) , 29 (https://arxiv.org/html/2606.15199#bib.bib11)]。例如，[17 (https://arxiv.org/html/2606.15199#bib.bib12)] 将 Graph RAG 应用于高速列车故障诊断，GNN-RAG[16 (https://arxiv.org/html/2606.15199#bib.bib13)] 则实现了对多跳推理任务的轻量级检索。然而，当前的 Graph RAG 方法仍然依赖于复杂的图谱聚类和社区摘要生成，这些操作随图谱规模呈指数增长，不适合边缘应用[5 (https://arxiv.org/html/2606.15199#bib.bib18)]。此外，现有方法并未将共享实体提取和个性化状态提取视为不同的画像。我们的双图认知画像方法通过解耦实体级图谱和知识级图谱来弥补这一空白。所生成的画像被内化到微调后的模型中，从而在推理时无需进行图谱聚类和检索。

### II-B 异构集群上的高效训练

在资源受限的边缘服务器上微调 SLM 非常耗时。分布式数据并行（DDP）和 Ray[18 (https://arxiv.org/html/2606.15199#bib.bib19)] 被广泛用于跨多个节点并行化训练，但它们要求所有工作节点同步推进，当硬件能力不同时会导致高同步开销。为减少这一开销，HetPipe[20 (https://arxiv.org/html/2606.15199#bib.bib20)] 在异构 GPU 之间进行流水线分层，使快速设备和慢速设备的计算相互重叠。类似地，Accpar[24 (https://arxiv.org/html/2606.15199#bib.bib21)] 根据每个设备的吞吐量划分计算图，并分配相应的工作负载。这两种方法都有效地平衡了硬件异构性，但它们仅根据设备计算能力调度工作。然而，微调任务比预训练任务具有更大的输入异构性，因为用户历史日志的序列长度差异很大。即使硬件工作负载均衡，这种差异也会导致掉队效应，而以硬件为中心的方法并未考虑这一点。我们的方法通过引入一种长度感知的数据划分策略来解决这一问题：在将样本分发到各服务器之前，先根据序列长度对样本进行分组。

## III 数据集构建

### III-A 教育场景

我们根据编程交互日志构建了一个专为主动预警定制的教育数据集。为了支持 CogGuard 中的结构化画像构建，每个样本必须包含三个基本要素：涉及的主要知识概念列表、每个学生足够的历史记录，以及每条记录的详细问题、解答和分数。标准的知识追踪数据集[7 (https://arxiv.org/html/2606.15199#bib.bib23) , 12 (https://arxiv.org/html/2606.15199#bib.bib22)] 仅包含稀疏的交互日志，缺乏 LLM 进行认知推理所需丰富的文本上下文。先前由 LLM 生成的学生数据集[31 (https://arxiv.org/html/2606.15199#bib.bib15)] 规模仍然有限。我们选择 C++ 编程作为评估场景[33 (https://arxiv.org/html/2606.15199#bib.bib24)]。数据集来源于在线编程平台 NowCoder 111https://ac.nowcoder.com/acm/problem/list/。最终的数据集包含 10036 条提交记录，涵盖了来自至多 40 名学生的 1076 个不同问题。这一规模反映了真实教育环境中一个自然班级的典型大小，也是单个边缘部署预警节点面临的现实工作负载。每个学生会与多个问题交互，并可能对同一问题提交多次尝试。我们实施了一个三阶段质量控制流水线： (1) 数据清洗：过滤掉对同一问题的过多重复提交，以避免模型过拟合。 (2) 标准化：保留有效的提