面向明清之际文集个人书信标题的微调BERT分类器

# 一种用于明末清初文集私人书信标题的微调BERT分类器

来源：https://arxiv.org/html/2605.23103

###### 摘要。

我提出Lepton（信件预测），一种微调后的BERT分类器，用于预测古典中文*文集*目录中的标题是私人信件（书）还是容易混淆的序文（序，特别是送序）。Lepton在来自三十三位明末清初文人的5,438条手工标注文集标题上微调了bert-base-chinese（Devlin2019, (https://arxiv.org/html/2605.23103#bib.bib7)）。我已将该模型部署在Hugging Face上（见https://huggingface.co/cbdb/ClassicalChineseLetterClassification），并在中国传记数据库（CBDB）中被用于识别从中明到清初文集中约五万五千封信件，从而充实了明代书信平台。

古典中文，BERT，文本分类，数字人文，中国传记数据库，自然语言处理

## 1. 引言

文集是中国文人毕生著述抵达现代读者的经典形式。其目录是由编者（往往是作者的学生、儿子或孙子）精心挑选的、混杂体裁的列表，他们决定哪些文本值得保存以及归入何种体裁标题下。对于一万部文集而言，这种 curated 结构本身就构成了问题：这是一个无人能够通读的语料库，但其标题层面的元数据恰好包含了使该语料库易于处理的体裁信号。

最重要的误报类别不是诗歌或奏章，而是序文（序），而正则表达式所依赖的体裁信号在两个方向上都不可靠。在我标注的语料库中，只有9%的信件标题以“书”结尾；其余以“启”、收信人头衔结尾，或根本没有结尾体裁标记。信件的可识别特征不在于其结尾字符，而在于其开头的动词——与、答（及异体字荅和畣）、复、报、寄、上、奉——而这些动词同样出现在序文标题的开头。以“书”结尾的正则表达式会漏掉91%的信件；以开头动词匹配的正则表达式则会误收序文，需要人工消歧。

Lepton（信件预测）是一种微调后的BERT分类器，用于预测标题是指代私人信件（书）还是容易混淆的序文（序，特别是送序）。它在来自三十三位明末清初文人的3,206条信件标题和2,232条序文标题上进行了微调。该模型是开源的，部署在Hugging Face上，并已被中国传记数据库（CBDB）用于识别从中明到清初文论语料库中约五万五千封信件，从而充实了团队所称的“明代书信平台”。

第2节 (https://arxiv.org/html/2605.23103#S2)将Lepton置于三个学术脉络中：古典中文预训练语言模型、计算文本分类以及CBDB生态系统。第3节 (https://arxiv.org/html/2605.23103#S3) 阐述核心文献学问题，例如“什么才算信件标题？”并报告标注决策。第4节 (https://arxiv.org/html/2605.23103#S4) 描述语料库和训练流程，并在保留测试集上对Lepton与正则表达式和TF-IDF基线进行比较评估。第5节 (https://arxiv.org/html/2605.23103#S5) 讨论模型关注的内容、它不能做什么，以及在其训练分布之外可能失效的情况。

## 2. 背景与相关工作

Lepton位于两个学术脉络的交汇处：面向古典中文的预训练语言模型，以及针对历史文本进行比较评估的数字人文传统。在Lepton部署时（2022年11月），已有三个领域适应的古典中文骨干模型可用——AnchiBERT (Tian2020, (https://arxiv.org/html/2605.23103#bib.bib19))、GuwenBERT (Yan2021, (https://arxiv.org/html/2605.23103#bib.bib14)) 和 SikuBERT / SikuRoBERTa (Wang2022, (https://arxiv.org/html/2605.23103#bib.bib13))；SikuGPT (Chang2023, (https://arxiv.org/html/2605.23103#bib.bib4)) 稍后出现。它们发布的基准测试针对的是句子级任务（分词、标点、命名实体识别、词性标注），而非标题级体裁分类，因此没有直接的可比较点。我直接微调了bert-base-chinese (Devlin2019, (https://arxiv.org/html/2605.23103#bib.bib7))；第4节 (https://arxiv.org/html/2605.23103#S4) 给出了理由。

最接近的古典中文数字人文先例是 Broadwell、Chen 和 Shepard (Broadwell2019, (https://arxiv.org/html/2605.23103#bib.bib3))，他们将主题建模和 Jensen-Shannon 散度应用于《全唐诗》。在中国之外，历史文本分类工作——如克罗地亚人口普查记录 (Lauc2021, (https://arxiv.org/html/2605.23103#bib.bib10))、芬兰OCR (Kettunen2017, (https://arxiv.org/html/2605.23103#bib.bib9))、古代铭文 (Tagami2023, (https://arxiv.org/html/2605.23103#bib.bib18))、十八世纪奥地利报纸 (Resch2023, (https://arxiv.org/html/2605.23103#bib.bib16))——确立了第4.3节 (https://arxiv.org/html/2605.23103#S4.SS3) 和第3节 (https://arxiv.org/html/2605.23103#S3) 旨在满足的比较评估和标注即构建的期望。

## 3. 什么才算“信件标题”？

在古典中文文集（文集）中，信件以几个近义体裁标签流传：书（shu）是核心情况，启（qi）、笺/笺（jian）、帖（tie）和牒（die）作为相邻边界案例。在包含3,206条信件标题的标注语料库中，有效信号位于标题的*开头*而非结尾：只有9.2%以“书”结尾，而出现在开头位置的一个传达类动词表征了该类别（表1 (https://arxiv.org/html/2605.23103#S3.T1)）。

表1. 3,206条信件标题中的开头动词分布。
| 开头动词 | 出现次数 | 在信件中的占比 |
|----------|----------|----------------|
| 与 | 1,461 | 45.6% |
| 答 | 675 | 21.1% |
| 复 | 263 | 8.2% |
| 柬 | 221 | 6.9% |
| 上 | 195 | 6.1% |
| 荅 | 83 | 2.6% |
| 寄 | 62 | 1.9% |
| 报 | 53 | 1.7% |
| 奉 | 46 | 1.4% |
| 畣 | 33 | 1.0% |
| 又 | 27 | 0.8% |
| 致 | 22 | 0.7% |
| 其他 | 65 | 2.0% |
| 总计 | 3,206 | 100% |

前八个动词覆盖了82%的信件标题，其中三个——答、荅、畣——是“回复”的异体写法，字符级模型可以自动处理，而正则表达式则需要逐一列举所有形式。同样的字符变体模式也出现在序文一侧（序89%、叙3.4%、叙（异体）1.8%、引2.6%）。典型的信件标题格式为：[动词] + [收信人]，结尾体裁标记可选。

区分信件与诗歌、奏章或碑文比较简单；困难的情况是序文（序），特别是应景序文——送序、寿序、赠序——它们像信件一样指名收信人，并且在中国传记数据库的关系模式中占据相同的社交网络槽位，但编码的是公共致敬而非一对一的致函。开头的句法可能几乎相同；区分信号在于动词（答 对比 无）和结尾标记（书 对比 序）。

标注语料库包含来自三十三位中明至清初文人的3,206条信件标题和2,232条序文标题，每一行都带有CBDB元数据（作者ID、收信人ID（如已知）、关系代码、文集、卷）。Lepton学习二元分类：书 = 1，序 = 0；第4节 (https://arxiv.org/html/2605.23103#S4) 详述了语料库构建。

### 3.1. Lepton分类什么，不分类什么

Lepton*不*识别收信人、提取日期、区分私人信件（私书）与官方通信（公书），也不从正文内容进行分类。还有三个进一步限制：

- **朝代范围**：训练数据大致为1550–1700年；对宋代或元代材料的行为未经表征。
- **体裁范围**：负类是序文，而非任意非信件文本；诗歌标题和碑文属于分布外。
- **架构设计**：二元选择是刻意为之：围绕*那一个*重要的误报类别进行构建，比更扁平的方案产生更清晰的可解释对比 (Resch2023, (https://arxiv.org/html/2605.23103#bib.bib16))。

## 4. 方法与评估

### 4.1. 标注语料库

对于这三十三位作者，每位标注者确定其文集所在数据库（《历代别集库》、《四库系列数据库》或《中国基本古籍库》V7.0），打开目录，找出包含信件和序文的卷，然后抓取或手工录入标题。每一行带有CBDB元数据：作者ID、收信人ID（如已命名）、关系代码（例如“致书Y”、“答Y书”）、文集文本ID和卷号。各作者的分布不均——冯梦祯（729条）、袁宏道（528条）、钱谦益（487条）、邹元标（470条）和屠隆（415条）占据了数据的47%。

### 4.2. 架构与训练

Lepton微调了bert-base-chinese (Devlin2019, (https://arxiv.org/html/2605.23103#bib.bib7))（约1.02亿参数），使用一个BertForSequenceClassification头作用于[CLS]标记；所有参数均更新。

我选择现代中文而非领域适应的古典中文骨干模型，有两个原因。经验上，区分性字符——表1 (https://arxiv.org/html/2605.23103#S3.T1)中的开头动词和结尾标记——在现代中文预训练数据中都有良好覆盖，因此我期望检查点能够迁移到由共享字符（而非前现代句法）承载的标题级信号上。在Lepton训练时（2020年），bert-base-chinese是成熟且广泛可用的中文BERT；领域适应的替代方案尚不是低摩擦的选择。

### 4.3. 测试集、基线与评估指标

我将包含5,438行的标注语料库按80/10/10分层划分为训练/开发/测试集（种子=42，保持类别平衡）。我评估了以下系统：

1. 多数类：对每个标题预测“信件”。
2. 正则表达式（以“书”结尾）：天真的历史学家基线。
3. 正则表达式（以传达类动词开头）：标题首字符为以下之一：与、答、荅、畣、柬、复、报、又、上、寄、奉、再、致。
4. 正则表达式析取：以动词开头 或 以“书”结尾。
5. TF-IDF字符n-gram + 逻辑回归：使用几组n-gram范围，min_df=2，class_weight='balanced'。
6. Lepton（已部署）：Hugging Face检查点（微调后的bert-base-chinese）。

我报告准确率、信件类别的精确率/召回率/F1分数，以及宏平均F1分数。我还报告混淆矩阵，因为类别不平衡（信件占59%）使得准确率作为单一指标具有误导性。

### 4.4. 结果

表2. 在保留测试集上的系统比较。已部署的Lepton行在可获取部署时预测结果的匹配子集上进行评估。
| 系统 | 准确率 | 信件精确率 | 信件召回率 | 信件F1 | 宏平均F1 |
|------|--------|------------|------------|--------|----------|
| 多数类（一律“信件”） | 0.585 | 0.585 | 1.000 | 0.738 | 0.369 |
| 正则（以“书”结尾） | 0.519 | 0.517 | 0.099 | 0.166 | 0.377 |
| 正则（开头动词） | 0.922 | 0.989 | 0.852 | 0.915 | 0.907 |
| 正则（动词 或 “书”） | 0.926 | 0.977 | 0.870 | 0.920 | 0.912 |
| TF-IDF (2,2) + LR | 0.913 | 0.877 | 0.983 | 0.927 | 0.915 |
| TF-IDF (2,3) + LR | 0.915 | 0.881 | 0.983 | 0.929 | 0.917 |
| TF-IDF (2,4) + LR | 0.919 | 0.887 | 0.980 | 0.931 | 0.919 |
| TF-IDF (1,3) + LR | 0.912 | 0.878 | 0.978 | 0.925 | 0.913 |
| **Lepton（已部署）** | **0.976** | **1.000** | **0.968** | **0.984** | **0.974** |

三个观察结果：第一，依赖结尾标记“书”的两个正则表达式基线彻底失败（F1分别为0.166和0.150）。这证实了第3节 (https://arxiv.org/html/2605.23103#S3)的观察：一个“书”字正则表达式只能检索出不到十分之一的信件。第二，开头动词正则表达式达到了F1=0.915，精确率接近完美（0.989）。这是历史学家的强基线（无需机器学习）；任何神经网络的贡献都必须超过这个数字，而不是多数类。添加“动词开头 或 以书结尾”将F1提升至0.920。第三，TF-IDF字符n-gram基线（范围(2,2)到(2,4)）紧密聚集在F1=0.935–0.937，召回率很高（约0.99），但精确率较低（约0.89），这反映了正则表达式所捕捉的相同开头动词信号，加上一些来自短字符跨度的额外区分能力。

已部署的Lepton检查点在匹配的测试子集上达到了F1=0.984——本文报告的所有系统中最强，信件类别精确率完美，召回率略有差距，第5.3节将对此进行详细说明。

### 4.5. 错误分析

Lepton在匹配的测试子集上的六个错误全部属于同一类型：非常短、省略的信件标题，其中开头动词信号缺失，因为标题就是收信人的名字或一个续接标记：

- 寐言（2字；顾宪成）
- 伯修（2字，收信人字号；袁宏道）
- 谕西虏（3字；孙承宗）
- 顾升伯修撰（袁宏道）
- 谕帖（孙承宗）

Lepton从标注分布中学会了“典型”信件标题的样貌后，在这些不合模板的输入上默认预测为序文。这种错误模式的一致性表明它沿着模型训练用以区分的轴线发生，但它也显示了标题表层分类的局限：上述六位收信人的文字之所以是信件，是因为明代或清代的编者如此认定，而非因为它们的标题包含第3节 (https://arxiv.org/html/2605.23103#S3)所指明的体裁信号。

## 5. 讨论

TF-IDF基线中权重最高的特征——信件一侧的与、答、荅、柬、复、报，以及序文一侧的序、叙、引、叙（异体）——正是第3节 (https://arxiv.org/html/2605.23103#S3)所命名的字符，而Lepton在匹配子集上完美的信件类精确率表明，已部署的模型已经足够稳健地内化了相同的信号，从而不产生任何假阳性。线性基线与文献学描述之间的收敛，符合Dobson (Dobson2021, (https://arxiv.org/html/2605.23103#bib.bib8))关于机器学习应揭示特征而非分数的呼吁。

在部署中，Lepton已识别出中明至清初文集中约五万五千封信件，充实了现已成为该时期社交网络研究基石的“明代书信平台”。除了这一用例之外，本工作还为数字人文社区贡献了一个用于古典中文书信体裁识别的开源分类器和标注语料库；一个现代中文预训练模型无需继续预训练即可迁移到标题级前现代任务的实例；以及可解释的n-gram基线在信号丰富的短文本分类上距离神经网络模型仅一步之遥的证据。

###### 致谢。

我感谢Katherine Enright、王宏苏、包弼德（Peter Bol）对本项目的支持。本项目由哈佛大学中国传记数据库（CBDB）小组执行，该小组的数据、工具和集体专业知识使本工作得以实现。

## 参考文献

- (1) David M. Berry. 2023. The Explainability Turn. *Digital Humanities Quarterly* 17, 2 (2023).
- (2) Peter K. Bol. 2007. Creating a GIS for the History of China. In *Placing History: How Maps, Spatial Data, and GIS Are Changing Historical Scholarship*, ESRI Press, 27–59.
- (3) George Aaron Broadwell, Jack W. Chen, and Jeffrey R. Tharsen. 2019. Reading the *Quan Tang shi*: Literary History, Topic Modeling, Divergence Measures. *Digital Humanities Quarterly* 13, 4 (2019).
- (4) Liu Chang, Wang Dongbo, Zhao Zhixiao, Hu Haotian, Liu Jiangfeng, Lu Si, Si Shen, and Liu Liu. 2023. SikuGPT: A Generative Pre-trained Model for Intelligent Information Processing of Ancient Texts. arXiv:2304.07778.
- (5) Hilde De Weerdt, Brent Ho, and Wing Kong Hou. 2016. MARKUS: Text Analysis and Reading Platform. https://dh.chinese-empires.eu/markus/.
- (6) Hilde De Weerdt and Csaba Oláh Horváth (eds.). 2023. Special issue on East Asian digital humanities. *International Journal of Digital Humanities*.
- (7) Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. 2019. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In *NAACL-HLT*, 4171–4186.
- (8) James E. Dobson. 2021. Vector hermeneutics: On the interpretation of vector space models of text. *Digital Scholarship in the Humanities* 37, 1 (2021), 81–93.
- (9) Kimmo Kettunen, Eetu Mäkelä, Teemu Ruokolainen, Juha Kuokkala, and Laura Löfberg. 2017. Old Content and Modern Tools — Searching Named Entities in a Finnish OCRed Historical Newspaper Collection 1771–1910. *Digital Humanities Quarterly* 11, 3 (2017).