基于专家知识的路由情感检测器，用于多标签情感分类

《IEEE Open Journal of the Computer Society》：Routed Expert-Based Emotion Detector for Multi-Label Emotion Classification

　　

摘要：

多标签情感检测旨在识别在简短、非正式的文本中（如推文）可能同时出现的多种情感。现实世界数据带来了挑战，因为情感线索之间存在重叠，标签之间的依赖关系复杂，且常见情感与罕见情感之间的不平衡非常严重。现有的基于Transformer的方法通常依赖于固定的阈值和单一的归纳偏见，例如条件预测、图推理或平面分类，这些方法往往会导致对多数标签的过拟合以及概率估计的不准确。为了解决这些问题，我们提出了RoutED（基于路由的专家情感检测器），这是一个能够为每个输入实例自适应选择最合适的推理策略的混合专家框架。RoutED整合了三个互补的专家：一个标签图专家，使用基于PPMI的图来建模情感共现；一个分类器链专家，用于捕捉标签之间的方向依赖关系；以及一个轻量级的MLP专家，用于无序评分。一个紧凑的路由器通过基于温度缩放的softmax和基于熵的负载均衡来为每个实例分配混合权重，以防止专家之间的冲突。训练过程结合了二元交叉熵和焦点损失来减轻类别不平衡，引入了拉普拉斯图正则化来确保相关性的一致性，并应用了针对每个标签的阈值调整以实现准确的推理。在SemEval-2018任务1（英语）和REN-CE-cps（中文）上的实验表明，该模型在宏观F1分数上优于强大的基线模型，尤其是在处理罕见情感时表现优异。同时，该模型还提供了可解释的注意力模式和专家使用分析，揭示了其自适应的推理行为。