时间对比变换器用于金融犯罪检测：通过预测对比编码实现自监督序列嵌入

arXiv cs.LG 论文
self-supervised contrastive-learning transformer temporal financial-crime sequence-embeddings representation-learning

摘要

介绍了时间对比变换器（TCT），一种用于从金融交易中学习时间嵌入的自监督框架，用于欺诈检测。仅使用嵌入时AUC达到0.8644，但并未超过强工程特征（AUC 0.9205 vs 0.9245），表明学习到的表示与现有特征存在重叠。

arXiv:2605.21490v1 公告类型: 新 摘要: 我们提出了时间对比变换器（TCT），一种旨在捕捉金融交易序列中上下文时间动态的表示学习框架。该模型通过自监督对比目标进行训练，以生成随时间编码行为模式的嵌入，旨在支持下游欺诈检测任务。我们在一个现实环境中评估TCT，将学习到的嵌入作为梯度提升分类器的输入特征。实验结果表明，仅使用嵌入就能实现有意义的预测性能（AUC 0.8644），表明模型捕捉到了非平凡的时间结构。然而，当与领域工程特征结合时，相比基线（AUC 0.9205 vs 0.9245）没有观察到可衡量的改进，这表明学习到的表示与现有特征抽象高度重叠。这些发现将TCT定位为一种有前景的表示学习方法，能够捕捉相关行为信号，同时突显了在强大领域特征基础上实现附加价值的挑战。结果反映了时间表示学习在金融犯罪检测发展中的中间阶段，并激励进一步研究模型架构、训练目标和集成策略。在这个早期阶段，实现与强特征工程基线相当的性能本身就是一个有意义的成果，表明学习到的表示无需人工工程即可近似领域特定特征。虽然尚未达到生产就绪，但这些结果指向了减少金融犯罪检测中对特征工程依赖的一个有希望的方向。
查看原文
查看缓存全文

缓存时间: 2026/05/22 08:46 

# 面向金融犯罪检测的时间对比变换器：基于预测对比编码的自监督序列嵌入
来源：https://arxiv.org/abs/2605.21490
查看 PDF（https://arxiv.org/pdf/2605.21490）

> **摘要：** 我们提出了时间对比变换器（Temporal Contrastive Transformer, TCT），这是一种旨在捕捉金融交易序列中上下文时间动态的表征学习框架。该模型通过自监督对比目标进行训练，以生成能编码随时间变化的行为模式的嵌入，从而支持下游的欺诈检测任务。我们在一个现实场景中评估 TCT，将学习到的嵌入作为梯度提升分类器的输入特征。实验结果表明，仅凭嵌入就能达到有意义的预测性能（AUC 0.8644），这表明模型捕捉到了非平凡的时间结构。然而，当与领域工程特征结合时，并未观察到对基线有可测量的改善（AUC 0.9205 对比 0.9245），这表明学习到的表征与现有的特征抽象在很大程度上存在重叠。这些发现将 TCT 定位为一种有前景的表征学习方法，能够捕捉相关的行为信号，同时揭示了在强领域特征基础上实现附加值所面临的挑战。这些结果反映了时间表征学习在金融犯罪检测中的中间发展阶段，并推动了对模型架构、训练目标以及集成策略的进一步研究。在早期阶段，达到与强特征工程基线相当的性能本身就是一个有意义的成果，表明学习到的表征无需手动工程即可逼近特定领域的特征。虽然尚未达到生产就绪状态，但这些结果指向了一个有前景的方向，即减少金融犯罪检测中对特征工程的依赖。

## 提交历史

来自：Nitzan Tal [查看电子邮件](https://arxiv.org/show-email/87407620/2605.21490) **[v1]** 2026年3月31日 星期二 09:42:08 UTC（631 KB）

相似文章

面向金融欺诈检测的多流时序融合

arXiv cs.LG

提出用于金融欺诈检测的多流欺诈Transformer（MSFT），该模型使用Transformer独立编码交易、登录和风险事件流，并通过时间感知位置编码和门控融合进行融合，在大型数据集上实现了0.9961的AUROC。

面向金融应用的多模态事件序列基础模型

arXiv cs.LG

本文提出了一种基于预训练Transformer的基础模型，该模型对金融应用中的多模态事件序列进行训练，统一了异构数据源，并通过下一事件预测学习通用表示。该方法优于传统的任务专用模型，并已在东欧一家大型银行部署，带来了可衡量的业务改进。