利用生理信号通过机器学习预测考试结果

# 利用生理信号通过机器学习预测考试结果
来源：https://arxiv.org/html/2606.14960
\[2\]\\fnmRamchandra\\surRimal

\[1, 2\]\\orgdiv数学科学系，\\orgname中田纳西州立大学，\\orgaddress\\street1301 E Main St，\\city默弗里斯伯勒，\\postcode37132，\\state田纳西州，\\country美国

###### 摘要

本研究探讨了应用机器学习模型，利用考试过程中收集的生理数据预测考试结果。分析了包括皮肤电活动、心率和皮肤温度在内的生理压力指标，以揭示它们与学业表现之间的关联。采用了多种机器学习方法，从逻辑回归、随机森林和支持向量机等标准模型，到更先进的架构，如Transformer、长短期记忆网络（LSTM）和门控循环单元（GRU）模型。这种多样性旨在有效捕捉数据中复杂的相互作用。一个关键重点是评估Transformer在处理数值数据时的适应性，以及在此新颖背景下评价其性能。使用准确率、精确率、召回率和F1分数等标准性能指标来比较模型效果。实验结果表明，虽然深度学习模型通常擅长捕捉生理数据中的复杂关系，但随机森林等更简单的模型有时能取得更优性能，同时具备计算效率和可解释性。此外，Transformer表现出显著的通用性，展示了与LSTM和GRU模型相当的性能。本研究强调了尝试与问题目标相一致的广泛模型类别的重要性，在精确性、效率和可解释性之间取得平衡。通过阐明生理信号与学业表现之间的关系，本研究有助于理解影响学生心理健康的压力因素，并进一步推动利用生理数据来增强学生的福祉和学业成果。

###### 关键词：

生理数据，机器学习，Transformer，认知压力，LSTM和GRU

## 1 引言

机器学习（ML）的快速发展为跨各领域的预测分析和复杂数据解释引入了强大工具。在这些创新中，长短期记忆网络（LSTM）、门控循环单元（GRU）以及最近的Transformer模型，因其能够捕捉数据中复杂的模式与依赖关系，尤其在自然语言处理领域取得了突破性成功。此外，Transformer在时间序列预测等序列任务中也取得了令人印象深刻的结果，表现出与LSTM和GRU模型相似甚至有时更好的性能\[bib21,bib42\]。然而，它们在一股机器学习任务或其他复杂数值数据中的采用仍然有限\[bib22\]。另外，Transformer模型的可并行性使其比LSTM和GRU更具吸引力。这一空白提供了一个令人兴奋的机会，来探索Transformer在一个新颖背景下的潜力：分析对应激的生理反应，并基于数值生理数据预测学业结果。在本研究中，Transformer不仅处于核心地位，而且还专门针对分类任务进行了修改和调整以处理数值数据，为机器学习和应用生理学研究提供了独特的贡献。

本研究的主要动机是基于考试期间收集的生理信号（如皮肤电活动、心率和皮肤温度等）准确预测考试结果。我们进一步旨在探索通过这些信号测量的压力指标如何与学业表现相关联。传统的机器学习模型，包括逻辑回归、支持向量机（SVM）和随机森林，通常用于生理数据分析，提供可解释性和实用见解\[bib45,bib46,bib47\]。然而，这些模型难以捕捉某些真实世界数据集的复杂关系和变异性，限制了它们在需要精细模式识别和序列数据分析的任务中的预测能力\[bib48,bib49\]。相比之下，深度学习架构，特别是Transformer和循环神经网络（如LSTM和GRU模型），旨在处理序列和复杂数据，可能提供更高的预测准确性。另一方面，这些模型提供的统计推断能力有限，因此当研究目标是理解预测变量与响应之间的关系时，它们并不十分适合。本研究旨在评估这两类模型在预测学业结果方面的有效性，特别关注Transformer，使用在高压真实环境中收集的数据。

心理健康已成为一个重大问题，尤其对于工薪阶层的家庭\[bib50,bib51\]。通过理解压力如何影响学业表现，我们可以为学生开发定制的支持系统和干预措施。此方法旨在通过适应性、数据驱动的方法来增强认知表现和心理健康。本研究有潜力为教育环境以及任何存在脑力劳动压力的情境中的心理健康和福祉做出贡献。此外，通过调整Transformer模型以分析生理数据，并评估各种机器学习模型在分类任务中的有效性，本研究在推进机器学习的同时，为高压工作环境中的实用工具和干预措施奠定了基础。

最后，先前使用此数据发表的研究仅利用皮肤电活动（EDA）测量的皮肤电导，这是收集的八个生理特征之一。通过数据分割、差分和比率计算从EDA中工程化出九个特征作为输入特征来预测考试成绩，期末考试的最高准确率为80%\[bib14\]。我们的工作利用了所有有用的收集特征，进行全面的分析以提高预测性能，并讨论每个特征对性能的贡献。更具体地说，本研究使用一个多变量数据集，该数据集捕捉了考试期间的各种生理反应，比较了Transformer与传统模型和深度学习模型（包括逻辑回归、SVM、随机森林、LSTM和GRU）。本研究还探讨了专门为分类数值数据而修改的Transformer是否能提供增强的预测准确性，考虑到它们被公认为各种应用中的最先进模型。

本文组织如下。第2节 (https://arxiv.org/html/2606.14960#S2) 首先讨论相关工作，通过回顾现有关于机器学习和深度学习模型用于生理数据分析的文献，为本研究提供背景，并突出本研究旨在填补的空白。第3节 (https://arxiv.org/html/2606.14960#S3) 介绍数据集，详细说明其特征、数据收集过程以及它们在检查认知挑战期间压力反应中的相关性。本节还概述了为准备数据进行分析而采取的预处理步骤。第4节 (https://arxiv.org/html/2606.14960#S4) 概述预测方法，简要介绍逻辑回归、SVM、随机森林、LSTM和GRU模型，并对Transformer模型及其为处理数值数据的分类任务所做的定制进行详细说明。第5节 (https://arxiv.org/html/2606.14960#S5) 详细说明实验设计、模型构建和超参数调优及其结果，提供每个模型预测性能的全面比较分析。第6节 (https://arxiv.org/html/2606.14960#S6) 讨论研究的伦理考虑和实际影响，确保透明度和问责制。第7节 (https://arxiv.org/html/2606.14960#S7) 通过强调主要发现、讨论其对未来研究的启示并审视潜在应用来总结全文。统计分析的结果详情在附录A节 (https://arxiv.org/html/2606.14960#A1) 中概述。

## 2 相关工作

机器学习（ML）尤其是深度学习（DL）技术的持续发展，得益于计算能力的提升和各种数据集的日益可及，使得开发用于预测认知状态和表现结果的复杂模型成为可能。近期的研究越来越倾向于探索生理信号，以理解并预测压力下的认知状态，特别是通过将ML和DL模型应用于真实世界场景。本节回顾了应用这些模型分析生理数据以进行认知表现预测和压力评估的进展，强调了它们的优势、局限性以及新方法的潜力。

许多ML模型，包括SVM、随机森林和梯度提升，在根据生理信号对压力进行分类方面取得了成功，通常在此背景下优于传统统计方法\[bib15,bib16,lazarou2024predicting\]。这些方法利用了生理数据中的时间相关性，例如心率变异性（HRV）和皮肤电活动（EDA），它们是关键的应激和认知负荷指标。Wijsman等人（2011）开发了一种可穿戴传感器系统来测量生理信号并检测精神压力。从来自心电图、呼吸、皮肤电导和肌电信号的19个特征中，基于相关性分析选择了9个特征。主成分分析将这些特征减少到7个主成分，使得分类器在区分压力与非压力状态时达到约80%的准确率\[wijsman2011towards\]。Panicker和Gayathri（2019）以及Martinez-Ríos等人（2021）的研究证明了ML在处理此类数据时的实用性，特别是当辅以额外的社会人口因素时\[bib15,bib16\]。然而，这些模型的有效性因特征选择和数据预处理的不同而有显著差异，表明需要一个统一的框架来最大化跨不同输入特征的预测能力。

深度学习模型，尤其是那些面向序列建模的模型，如LSTM网络和卷积神经网络，在需要随时间保持记忆的任务中进一步提高了预测准确性。Bota等人（2019）和Rush等人（2018）将这些模型应用于医疗环境中的生理信号，注意到了DL在处理复杂连续数据流方面的优势\[bib17,bib18\]。\[agarwal2023physiological\]使用与本研究相同的数据进行了回归分析，但只考虑三个应激因素：皮肤温度、皮肤电活动和心率，以预测学生在三次考试中的成绩。他们使用了常见的回归模型，包括更复杂的深度神经网络和卷积神经网络。他们以不同的方式处理数据，通过计算三个时间间隔内的平均特征并将其用作特征，并对数据进行了扩充。他们的实验结果也表明，随机森林在均方根误差方面优于其他实验模型。尽管取得了成功，但这些工作通常缺乏可解释性，并且需要大量的训练数据，限制了它们在小型、真实世界数据集（如教育或高压环境中使用的数据集）中的实际应用。

此外，结合ML和DL方法的混合模型已显示出在需要多维特征集成的任务中具有更强的稳健性。Petrescu等人（2021）的研究将集成方法应用于基于生理数据的情感分类，在对恐惧（一种与考试压力下认知表现相关的高唤醒状态）进行分类时达到了高准确率\[bib19\]。然而，这些混合模型通常强调单一的生理指标，而不是整合的多变量数据，而后者可能提供对压力下认知状态更丰富的理解。Tripathy、Paternina和de la O Serna（2022）在他们的社论中强调了ML和DL在生理信号分析中的应用，特别强调了像Transformer这样的DL技术在捕获多模态数据流中复杂时间相关性方面的潜力\[bib20\]。他们的综述强调了Transformer在需要连续和长期生理监测任务中的优势。

我们研究的一个基准是Amin、Wickramasuriya和Faghih（2022）的可穿戴考试压力数据集，该数据集捕获了全面的生理信号阵列，包括在真实考试期间收集的皮肤电活动\[bib14\]。先前对该数据集的分析主要集中在个别特征，主要是皮肤电活动，以预测考试成绩。这些研究仅利用通过EDA测量的皮肤电导（收集的八个生理特征之一）以及基于这一单一测量工程化的特征。该数据集被分为三个部分：开始、中间和结束。研究人员定义了差分信号，并计算了这些部分以及差分信号的均值和方差。此外，他们计算了中间部分平均值与开始和结束部分平均值之和的比率。然后将基于EDA的九个工程化特征用作输入特征来预测考试成绩，在期末考试中达到了最高80%的准确率\[bib14\]。然而，纳入完整的生理信号范围可以产生更具洞察力和准确的认知压力下表现的预测模型，从而填补了我们研究旨在通过利用这些多模态记录来解决的空白。

尽管先前的研究对我们理解用生理信号预测认知表现做出了重大贡献，但本文旨在通过采用先进的ML和DL方法，提供更全面深入的分析。通过利用最先进的Transformer模型（以其捕捉复杂数据集中复杂依赖关系的能力而闻名）以及其他有前景的ML和DL技术，本研究旨在提高预测准确性和可解释性。采用多变量分析框架，本研究力求揭示真实世界压力条件下认知表现的细微见解，从而加深我们对这种复杂相互作用的理解。具体而言，本研究追求以下举措以应对上述挑战并弥合现有研究空白：(a) 从收集的数据中识别并选择所有相关特征，(b) 调整Transformer架构以适用于一般数据的分类建模，(c) 利用各种机器学习技术开发一个集成且可定制的计算框架，(d) 尝试具有不同复杂程度的多模型配置，(e) 设计一个稳健的数据驱动方法用于超参数调优和模型选择，(f) 获得优于先前80%的96%准确率的结果。这些发现增强了预测建模能力，同时为未来的研究提供了宝贵的见解，并推动了实际应用。