基于特征嵌入的Transformer分类方法用于钢板缺陷检测，以实现稳健的工业过程监控

《Processes》：Feature-Embedded Transformer-Based Classification of Steel Plate Defects for Robust Industrial Process Inspection

　　

摘要

强健的缺陷分类对于钢铁制造中的智能工艺检测和质量控制至关重要，但当工业表格数据量小、不平衡、统计上存在偏态，并且特征之间存在非线性依赖关系时，这一任务仍然具有挑战性。本研究提出了一种基于特征嵌入Transformer的钢铁板缺陷分类框架。首先引入了一种基于分位数的转换方法，以规范异构性和重尾的工艺描述符。然后将每个数值变量表示为一个可学习的特征标记，并通过Transformer编码器进行处理，以模拟位置、几何形状、亮度相关性和形态属性之间的上下文交互。实验在Steel Plates Faults数据集上进行，该数据集包含1941个样本、27个输入特征和7种缺陷类别。在保留的测试集上，该模型的准确率为0.735，与XGBoost（0.794）和Random Forest（0.783）相当。SHAP和自注意力分析进一步表明，该模型能够捕捉到分布性和交互性的缺陷表示，为强健的工业缺陷分类提供了一种可解释的解决方案。