在零膨胀稀疏性条件下，用于BOF端点组合预测的多目标对抗性迁移TabTransformer

《Expert Systems with Applications》：Multi-target Adversarial Transfer TabTransformer for BOF Endpoint Composition Prediction under Zero-Inflated Sparsity

准确预测转炉炼钢终点成分对生产控制和成本管理至关重要。现有模型难以处理辅助材料特征中大量零值数据导致的稀疏性问题，本文提出基于对抗域转移的多目标TabTransformer模型MATT，通过零值独立类别划分、对数域映射与一维聚类相结合的零膨胀稀疏性处理策略，并利用TabNet进行自监督预训练和对抗域对齐，有效提升小样本跨钢种条件下的多目标回归性能。

　　

牛大鹏|胡文月|周静|贾明星

东北大学信息科学与工程学院，沈阳，110819，中国

摘要

在基本氧气炉（BOF）炼钢过程中，准确的终点成分预测对于稳定操作和成本控制至关重要。然而，生产数据中辅助材料特征往往包含许多完全为零的条目，这种零膨胀稀疏性会削弱传统模型的性能，尤其是在样本数量有限的情况下。为了解决这些问题，我们提出了MATT（Multi-target Adversarial Transfer TabTransformer）。该模型通过一种零分隔离散化方案，将具有明显零值主导性的辅助材料变量转换为分类标记：零值样本被分配到一个独立的类别中，而正样本首先被映射到对数域，然后通过一维聚类划分为几个离散级别。这些分类标记与剩余的连续变量一起在统一的深度表格管道中学习。TabNet编码器-解码器在大型源域上执行自监督表示学习，而对抗性鉴别器则使源域和目标域之间的特征分布对齐。最后，基于TabTransformer的迁移模型在有限的目标样本上进行微调，以提高多目标回归的跨等级适应性。在工业BOF数据集上的实验表明，MATT在多个回归指标和命中率评估中均优于七种基线模型，证明了其在小样本条件下对零膨胀稀疏性的强鲁棒性。

章节摘录

引言

准确的终点成分预测是基本氧气炉（BOF）炼钢的基石，它指导着吹炼强度和合金添加的实时控制，同时直接影响产品质量和成本（Tang, Zhao, & Liu 2013）。早期的研究通过材料和热平衡计算来解决这一任务，这些计算包含了详细的热力学和动力学关系（Birk, Arvanitidis, Jonsson, & Medvedev 2001；?amdali & Tunc 2006；Opitz & Treffinger 2016）。尽管在物理上……

BOF工艺和数据挑战

本节介绍了BOF炼钢工艺，并阐明了推动所提出建模方法的实际数据特征。特别是，它强调了辅助材料变量的零膨胀稀疏性以及工业BOF生产记录中常见的跨等级分布差异，这些都对数据驱动的终点成分预测构成了重大挑战。

钢铁生产过程包括几个阶段，包括采矿……

提出的方法

本节介绍了用于BOF炼钢终点质量预测的多目标对抗性迁移TabTransformer（MATT）框架。基于第2节中确定的挑战，该方法旨在明确解决辅助材料特征中的零膨胀稀疏性和不同钢材等级之间的分布差异。为此，MATT结合了自监督表示学习、对抗性域对齐和深度表格迁移学习。

实验

本节使用从钢铁厂收集的真实工业BOF炼钢数据集评估了所提出的MATT框架的有效性和实用性。实验设计重点关注终点成分预测，并逐步验证了MATT的关键方法选择，包括零膨胀特征离散化、对抗性域对齐以及在小样本跨等级条件下的迁移学习。此外，还进行了全面的比较……

结论与未来工作

在这项研究中，我们提出了MATT，这是一种适用于零膨胀稀疏条件下的BOF终点成分预测的域自适应多目标回归框架。该框架整合了四个关键组成部分：（i）一种零膨胀特征离散化策略，将具有频繁零值条目的辅助材料变量转换为分类标记；（ii）TabNet自监督预训练，从大规模源等级数据中学习鲁棒表示；（iii）对抗性域对齐……

未引用的参考文献

缺少参考文献：图4。

资助

本工作得到了中央高校基本科研业务费（项目编号N2304006）和中国国家自然科学基金（项目编号U24A2098）的支持。

CRediT作者贡献声明

牛大鹏：撰写——原始草稿，撰写——审阅与编辑，项目管理，资金获取，形式分析，数据管理，概念化。胡文月：撰写——原始草稿，撰写——审阅与编辑，方法论，可视化，验证，软件，资源。周静：撰写——原始草稿，可视化，验证，监督，软件，资源，项目管理。贾明星：撰写——审阅与编辑，可视化，监督，

利益冲突声明

作者声明没有需要声明的利益冲突。