小数据约束下的物理信息机器学习：来自磨料水射流铣削的经验教训

# 小数据约束下的物理信息机器学习：来自磨料水射流铣削的经验教训

已接收发表；将发表于ICANN 2026会议论文集，Springer LNCS.
来源：https://arxiv.org/html/2607.07863
Sarah Grewehttps://orcid.org/0009-0009-7572-826X 德国波鸿应用科学大学 sarah\.grewe@hs\-bochum\.de  &Jörg Frochtehttps://orcid.org/0000-0002-5908-5649 德国波鸿应用科学大学 joerg\.frochte@hs\-bochum\.de

###### 摘要

在物理主导的加工过程中，实验数据集通常规模小、成本高且具有材料特异性；在此场景下，数据整理、评估设计以及物理知识的集成形式可能和学习算法本身同样重要。利用磨料水射流铣削数据集（\(n=155\)，Inconel 718），我们做出了三项方法论贡献。首先，我们将基于物理的数据*清洗*与统计*筛选*区分开来，并将后者视为相互竞争的建模假设，而非静默的数据预处理步骤。其次，我们发现基于15点留出集的模型排名可能不稳定：单次划分的胜出者在10折交叉验证下从第1名降至第7名，而高斯过程（GP）变体则占据前列。第三，我们研究了一系列物理集成水平，发现残差学习在紧凑物理基线上对GP具有竞争力，可降低方差并提供可解释的分解，但会降低基于树的模型的性能。贝叶斯超参数调优有助于参数敏感的基线模型（如梯度提升和SVR），但在该样本量下会损害多阶段混合流水线。GP不确定性区间近似校准（名义90%置信水平下经验覆盖率为86%）。由此得出的结论具有方法论意义：对于小型、昂贵的工艺数据集，本研究表明，在此设定下，可靠的模型比较受益于明确的筛选假设、稳健的评估以及对物理知识进入模型方式的谨慎选择。

*关键词* 小数据机器学习·物理信息建模·高斯过程·磨料水射流铣削·工艺建模

## 1 引言

当高压水射流携带磨料颗粒以受控方式去除材料时——即称为磨料水射流铣削（AWJM）——目标并非切断工件，而是实现具有严格公差的指定*铣削深度* \(\bar{d}\)。三个工艺参数主导输出结果：水压 \(p\)、横移速度 \(v\) 以及磨料质量流量 \(\dot{m}\)[18,2]。为目标深度找到正确的组合目前需要昂贵的试验运行——为此已提出了数据驱动的代理模型。然而，AWJM数据集本质上非常小——典型研究报告27–50次测量[19,20,5]——因为每种材料和机器配置都需要自己的实验，且单个数据点可能花费数小时的机器时间加上后处理形貌测量。我们的数据集包含 Inconel 718（一种航空航天制造中常用的镍基高温合金）上的 \(n=155\) 次测量。这种限制是结构性的，而非暂时的：将模型迁移到新材料需要重新实验，且每个数据点的成本仍然可观。小数据集会引发一系列很少被审视的方法论挑战：首先，*数据质量*：对于155个点，少数记录错误或工况转变就可能改变模型排名，然而预处理选择很少被视为建模决策[28]。其次，*评估可靠性*：10–15点的留出集太小，无法进行稳定的模型比较[21,25]，因此单次划分评估在此设定下不足以进行稳定的模型比较。第三，*物理集成*：半经验AWJM模型[14,15]捕捉了主要趋势，但需要材料特定的校准；它们是否能改进ML预测仍是开放问题。我们认为，在这个小数据场景下，建模决策从*模型拟合之前*就已开始：异常识别、统计过滤和评估设计的选择对结论的影响可能不亚于算法选择本身。

#### 贡献。

利用 Inconel 718 AWJM 数据集，我们做出了三项方法论贡献。首先，我们将基于物理的数据*清洗*（移除明显错误的点）与统计*筛选*（过滤极端但合理的点）区分开来，并将筛选视为相互竞争的建模假设。其次，我们发现评估协议本身就是一个建模选择：15点留出集产生的排名与10折交叉验证不同，单次划分的胜出者降至第7名。第三，我们研究了四种物理集成水平，发现残差物理有助于平滑插值器（GP）但会降低基于树的方法的性能；贝叶斯超参数调优有助于参数敏感的基线模型，但会损害多阶段混合模型，且GP区间仅近似校准。贡献在于方法论：对在小数据场景下这些上游选择如何相互作用的受控分析。

## 2 相关工作

#### AWJM代理建模。

基于ML的AWJM代理建模已通过神经网络[7]、集成方法[20,5]和支持向量回归[19]进行了探索；然而概率方法如高斯过程回归——尽管在相邻领域已证明具有物理信息建模的潜力[6]——却很少受到关注。Zhao等人[28]将数据质量视为基于ML的制造中一个未被充分解决的挑战，这与本研究一致。

#### 制造业中的小数据ML。

小数据场景（\(n<200\)）是材料科学和工艺工程中的常态。Xu等人[27]和Fullington等人[9]分别调查了材料科学和增材制造中小数据ML的策略，如迁移学习、数据增强和物理先验；这些方法有帮助，但并未消除根本限制。对于像AWJM深度预测这样的表格回归问题，经典方法如高斯过程仍具有竞争力[11,23]。小\(n\)下的交叉验证不稳定性已有充分记录：Vabalas等人[24]表明，即使\(n=1000\)，\(k\)折CV也会产生有偏的性能估计，当在合并数据上进行特征选择时偏差会加剧。

#### 物理信息与混合建模。

在本文中，我们使用术语“物理信息机器学习”来广泛指代将科学知识集成到学习流水线中，包括特征表示、残差公式和先验均值函数，而非将其限制为神经网络中的物理信息损失项。物理知识可以在不同阶段进入ML流水线：Willard等人[26]提供了一个分类法，区分了物理引导的损失函数、初始化、架构设计和混合模型，而Cross等人[6]形式化了物理信息高斯过程的一个谱系，从物理导出的核函数和均值函数到约束协方差公式。对于AWJM，半经验模型可追溯到Hashish[13,14]，后来由Hlaváč[15]修订；这些模型捕捉了主要趋势，但仍需要材料特定的校准。开放问题不是物理知识是否*可以*被集成，而是在什么条件下——算法类别、集成水平、数据筛选——它能带来可衡量的改进。

#### 小\(n\)下的评估与调优。

Cawley和Talbot[4]表明，模型选择中的过拟合可能导致性能下降，其程度可与算法间差异相媲美——这一风险在小\(n\)下被放大。偶然不确定性和认知不确定性[8]之间的区别在此尤为重要：认知不确定性占主导，并且校准预测区间需要比通常可用的更多的留出数据[3]。

## 3 数据集与数据准备

### 3.1 数据集

该数据集包含在 Inconel 718 上进行的 \(n=155\) 次单道次AWJM实验，具有五个压力水平（\(p \in \{1000,\ldots,5000\}\) bar）、六个横移速度（\(v \in \{250,\ldots,3000\}\) mm/min）和六个磨料质量流量（\(\dot{m} \in \{60,\ldots,480\}\) g/min）。目标变量是平均铣削深度 \(\bar{d}\)（mm），范围从 \(-5.5\) mm 到接近零。设计并非完全交叉：在 \(5 \times 6 \times 6 = 180\) 个名义参数组合中，实现了155个。\(\bar{d}\) 的分布呈左偏（偏度 \(-1.28\)）。

### 3.2 两阶段数据准备

我们将应用ML研究中常被混用的两种操作区分开来。*阶段1（基于物理的清洗）*。领域知识识别出25个明显错误或不可靠的点：(a) 13个物理上不可能的深度正值（记录错误导致的符号异常）；(b) 9个实验内方差超过平均深度的点（变异系数 > 1；其中一点与(a)重叠）；(c) 4个处于工况边界（切割退化为表面釉化）的点。这些点始终被排除。*阶段2（作为竞争假设的统计筛选）*。剩余130个点在物理上合理但统计上极端（例如，在低横移速度和高压力下的极深切割）。是否排除它们以改善预测取决于算法的偏差-方差权衡。我们不承诺单一过滤器，而是定义四个假设（表1），并通过其对模型性能的下游影响来评估每个假设。

表1：按压力组应用的竞争性异常值假设（阶段1标志始终保留；\(n_{\text{train}}\) 按第4.4节定义）。 MAD：中位数绝对偏差[12]；如果一个点的修正 \(Z\) 分数 \(M_i = 0.6745\,(y_i - \tilde{y})/\text{MAD}\) 超过阈值 \(\tau\)，则标记该点。 IQR：四分位距；移除 Tukey 栅栏 \([Q_1 - 1.5\,\text{IQR},\; Q_3 + 1.5\,\text{IQR}]\) 之外的点。修正 \(Z\) 分数假设近似正态性；由于过滤是按压力组（\(n \approx 30\)）进行的，组内分布比整体数据集偏斜程度小得多。阈值 \(\tau = 2.5\)[17] 和 \(\tau = 3.5\)[16] 覆盖了从适度保守到宽松的范围。统计过滤的合理性不在于方法本身，而在于其对预测质量的下游影响。

*目标变换*。符号平方根 \(y_t = \sqrt{|y|}\,\text{sgn}(y)\) 将偏度从 \(-1.28\) 降低到 \(-0.10\)，同时保留符号，保持无参数且可逆。它在所有算法上一致地实现了5–9%的RMSE降低；以下所有结果均使用变换后的目标。

## 4 方法论

### 4.1 物理基线模型

铣削深度近似遵循工艺参数的幂律。Hashish[13,14] 建立了射流动能与 \(p^{3/2}\) 成正比（伯努利原理），深度随磨料加载 \(\dot{m}^\gamma\) 增加，并与横移速度 \(v\) 成反比。然而，简单的幂律 \(\bar{d} = -C\,p^\alpha \dot{m}^\gamma / v\) 会高估高压下的深度，因为切割效率会饱和[18,15]。遵循 Hlaváč 的观察，即压力相关的饱和必须显式建模[15]，我们引入了一个紧凑的有理分母：

\[
\bar{d} = -\,\frac{C \cdot p^{3/2} \cdot \dot{m}^\gamma}{v \cdot (A\,p + B)}\,,
\tag{1}
\]

其中 \(C, A, B, \gamma\) 通过非线性最小二乘法拟合（soft-\(L_1\) 损失，10次随机重启）。压力指数 \(\alpha = 3/2\) 根据伯努利方程固定；\(\gamma\) 可拟合，因为磨料效率取决于材料。分母 \((Ap + B)\) 引入了压力相关的阻力：在低 \(p\) 时，\(B\) 占主导（恒定阻力）；在高 \(p\) 时，\(Ap\) 占主导，深度增长减速。我们称这个4参数模型为 PG-H(4)（物理引导，Hlaváč启发，4个参数）。PG-H(4) 作为混合模型的*物理骨干*，而非独立预测器。仅有四个自由参数，它捕捉了约一半的方差（训练数据上 \(R^2 \approx 0.51\)），编码了主导尺度关系，使得ML残差 \(r = y - f_{\text{phys}}(x)\) 比原始目标更简单、方差更低。

### 4.2 物理集成水平

我们不将物理集成视为二元的，而是定义了四个层次，ML模型接收的先验知识量不同：

- **Level 0（纯ML）**：原始特征（\(p, v, \dot{m}\)）；模型必须学习完整的输入-输出映射；基于距离的方法（GP, SVR）使用标准化特征，基于树的方法接收原始特征（分裂对于单调重新缩放是不变的）。
- **Level 1（对数变换）**：特征 \(\ln p, \ln v, \ln \dot{m}\)，编码了幂律假设，使纯幂律变为线性。对于基于树的方法，单调变换产生相同的分裂，因此 Level 0 和 Level 1 等价；对于核方法，它改变了距离度量。
- **Level 2（残差学习）**：PG-H(4) 提供第一近似 \(f_{\text{phys}}(x)\)，ML模型学习加性残差 \(r = y - f_{\text{phys}}(x)\)，得到 \(\hat{y} = f_{\text{phys}}(x) + \hat{r}(x)\)。物理模型不必在每个细节上都准确——它只需捕捉主导趋势即可。
- **Level 3（PG-H(4) 作为GP先验均值）**：在数据丰富的区域，后验修正物理模型；在数据稀疏的区域，预测回归到物理模型——这是最强的集成，但对物理模型准确性最敏感。

各层次对物理模型的要求不同。在 Level 0–2 中，ML显式修正物理模型。