一种新型的适应性多尺度协作模型，用于工业软感知领域，特别是在标记数据稀缺的情况下

《Chemometrics and Intelligent Laboratory Systems》：A novel adaptive multi-scale collaborative model for industrial soft sensing with scarce labeled data

　　刘硕基|陈雷|王恒倩|郝匡荣|陈珊
华东大学数字化纺织与时尚技术工程研究中心，教育部，中国上海201620

**摘要**
在复杂的工业过程中，实时监控关键质量变量对于提高产品质量和确保安全至关重要。然而，由于测量限制的缘故，实际场景中的标记数据极为稀缺。现有的半监督软感知方法往往无法有效挖掘工业时间序列数据的内在动态特征和时间依赖性，导致在标签率较低的情况下性能急剧下降，尤其是在使用历史工业数据进行离线建模时。为了解决这一挑战，本文提出了一种名为自适应多尺度协作变分自编码器（AMC-VAE）的新型软感知模型，该模型利用协作机制来捕捉工业时间序列数据的多尺度动态特征。AMC-VAE的核心是一种协作机制，它结合了多尺度分解、增强和交互，以明确解析和加强工业数据中固有的动态特征。这种机制能够在有限的监督下实现分层的多尺度特征提取。此外，在半监督框架内，该模型能够从丰富的未标记数据中有效学习底层数据结构，显著减少对监督信号的依赖性，同时保持准确性。在两个真实的工业数据集上的实验结果表明，所提出的AMC-VAE在预测准确性和泛化能力方面均优于现有的主流半监督方法。

**引言**
在石油化工、制药和冶金生产等现代工业过程中，实时测量关键质量变量是确保运行稳定、优化工艺参数和提高产品质量的基本前提[1][2]。然而，通过传统硬件传感器在线监控这些变量常常受到高温、高压和腐蚀性环境等恶劣操作条件的阻碍[3]。此外，检测的高成本以及离线分析方法固有的显著时间延迟也带来了额外的障碍[4]。为了解决这一工业难题，软感知技术应运而生[5][6]。它通过在目标质量变量与易于测量的工艺变量之间建立数学映射来实现间接估计。

在软感知技术的实际应用中，建模方法主要分为两类：机制驱动型和数据驱动型[7][8]。机制模型基于先验的物理化学方程构建，但在复杂的工业过程中，由于反应机制不明确和参数时间变化性强，它们往往无法应对实际的动态变化[9]。相比之下，数据驱动型方法不需要显式的先验知识，可以直接从历史数据中学习隐含的映射关系[10]，因此更适合具有显著多变量耦合和非线性动态行为的工业场景。因此，近年来，软感知研究主要集中在数据驱动型模型上，如偏最小二乘法（PLS）[11]、支持向量回归（SVR）[12]、主成分分析（PCA）[13]和人工神经网络（ANN）[14]。由于这些方法具有强大的非线性建模能力，它们已被广泛应用于实际工业软感知中。

然而，大多数现有的数据驱动型模型需要大量的标记样本才能进行有效训练，而这在实际工业环境中往往难以满足[15]。为了克服标记样本稀缺的瓶颈，半监督学习方法逐渐成为软感知研究的热点。这些方法通过整合标记和未标记数据的信息来挖掘未标记数据的潜在结构，从而提高模型性能[16]，并在缓解标记样本短缺方面取得了显著进展。

早期的半监督方法大多基于传统的机器学习方法，但这些方法存在架构浅层和特征表示能力有限的缺点[17]。因此，它们无法充分捕捉复杂工业数据中的非线性动态关系[17]。近年来， various 深度学习架构被用于开发软感知模型[18][19][20]，例如基于堆叠自编码器（SAE）[21]的分层特征提取、基于图神经网络（GNN）[22]的复杂关系数据建模、基于卷积自编码器（CAE）[23]的工业质量检测特征学习等。值得注意的是，在这些模型中，变分自编码器（VAE）[24]在工业应用中获得了广泛关注。

具体来说，VAE采用概率生成框架将数据映射到潜在空间，并对其分布特性进行建模。这一能力使得未标记数据能够被有效用于全局结构学习，同时通过深度网络架构增强特征表示能力。例如，王等人[25]提出了基于不确定性感知的VAE的自训练框架。在他们的研究中，通过方差和过采样策略优化伪标签，迭代扩展训练数据集。陈等人[26]设计了物理约束单调VAE（PMVAER）模型，引入单调性损失以确保预测符合物理规律。谢等人[27]提出了一个融合框架，结合了监督和无监督的深度VAE，专门用于构建可靠的软感知模型。庄等人[28]将回归VAE改编为半监督架构（SSVAER），并在多个真实工业应用中验证了其性能。

尽管现有的半监督软感知方法在缓解标记数据稀缺方面取得了一定进展，但它们的有效性主要在标记样本相对充足的场景中得到验证[29]。当目标质量变量的标签率进一步降低到极低水平[30]时，模型面临双重挑战：监督信息严重不足以及难以捕捉内在的工艺动态[31]。具体而言，监督信息不足不仅阻碍模型学习区分性特征表示，还进一步削弱了其对工业过程非线性动态行为的建模能力。同时，工业数据通常表现出复杂的时间相关性[32]。在缺乏足够标签信息的情况下，现有方法难以有效捕捉长期依赖性和趋势变化，这最终导致模型预测性能显著下降，无法满足工业环境中的高精度预测要求。

为了解决在标记样本稀缺的工业场景中软感知器预测精度低的问题，本文提出了一种名为AMC-VAE的新型离线软感知模型，该模型将自适应多尺度协作机制集成到VAE中。基于VAE的概率生成框架，该模型旨在克服现有方法在低标签率下的性能限制。其创新之处在于包含四个关键阶段的结构化框架：自适应分解、自适应增强、特征交互和半监督融合。具体而言，模型首先进行自适应多尺度分解（AMD）模块，对工业时间序列数据进行分层分析，将其分解为不同频率尺度的子序列。然后，自适应增强模块采用动态加权策略，放大关键尺度上的信息内容，同时抑制无关噪声成分。进一步引入了跨通道和跨尺度的特征交互模块，用于建模工艺变量之间的相关性以及高频和低频成分之间的耦合效应。最后，模型在半监督学习框架下进行训练，同时优化三个损失项：重建损失、Kullback–Leibler（KL）散度和回归损失。这使得未标记数据得以充分利用，从而提高模型的泛化能力。实验结果表明，所提出的AMC-VAE模型在标签率从1%到10%的范围内显著优于现有的半监督软感知方法，有效缓解了极度标记稀缺场景下的准确性下降问题。

**主要贡献**
(1) 本文提出了AMC-VAE模型，这是一种适用于标记样本稀疏的工业场景的新型软感知模型，在标记数据稀缺时显著提高预测准确性。
(2) 本文设计了一种自适应多尺度协作机制，通过专门的分解、增强和交互模块明确解析、动态增强和深度整合工业时间序列数据。
(3) 通过两个真实工业案例研究严格验证了所提模型的有效性和实用价值，为低标签率下的软感知任务提供了可行且有效的解决方案。

**本文其余部分的结构**
第2节介绍相关理论和问题构建。第3节详细阐述AMC-VAE模型的架构及其半监督训练策略。第4节展示实验验证和比较分析。第5节总结本文并探讨未来研究方向。

**术语说明**
静态小波变换（SWT）[33]是一种具有平移不变性的小波分析技术，它源自离散小波变换（DWT）[34]。与DWT不同，SWT在每个分解层次之后不进行下采样，而是对滤波器系数进行上采样，从而确保每个层次的分解系数长度与原始信号相同，有效克服了DWT的平移敏感性。

**方法论**
对于标记率较低的工业过程，存在两个关键挑战：监督信息严重受限以及在离线建模中使用历史数据时难以有效捕捉时间动态。为了解决这些问题，本文提出了离线半监督AMC-VAE模型。如图1所示，该模型的核心是自适应多尺度协作机制，通过共享编码器实现。该编码器包括AMD模块用于…

**案例研究**
采用了两个工业案例来评估该模型：一个来自硫回收装置（SRU）的基准数据集和一个来自实际聚酯酯化过程的数据集。评估指标包括平均绝对误差（MAE）、均方根误差（RMSE）和决定系数（R2）。这些指标定义如下：
MAE = ∑_i=1^N |yi?y?i|
RMSE = ∑_i=1^N (yi?y?i)^2
R2 = 1 ? ∑_i=1^N (yi?y?i)^2 / ∑_i=1^N yi?y?^2
其中N表示测试样本的数量；y_i表示第i个测试样本的值；y?_i表示预测值；y?表示平均值。

**结论**
为了解决复杂工业过程中标记数据稀缺的实际挑战，本文提出了一种名为AMC-VAE的离线半监督软感知模型，适用于历史数据建模场景中标签率较低的情况。具体而言，该模型通过AMD模块捕获工业时间序列数据的细节和趋势，然后通过AME模块动态加权关键特征并抑制噪声。

**作者贡献声明**
刘硕基：撰写——原始草稿、方法论、调查、形式分析、概念化。
陈雷：撰写——审核与编辑、监督、资源管理、项目管理、数据策划。
王恒倩：验证、形式分析、数据策划。
郝匡荣：监督、项目管理、资金获取。
陈珊：验证、调查。

**利益冲突声明**
作者声明不存在可能影响本文工作的已知财务利益或个人关系。

**致谢**
本研究得到了中央高校基本研究经费（2232025A-08）和上海市自然科学基金（20ZR1400400）的支持。