基于因果规则的贝叶斯式推理框架，用于处理因果情感蕴含问题

《Knowledge-Based Systems》：A Bayesian-like Inference Framework Based on Causal Rules for Causal Emotion Entailment

本研究提出基于贝叶斯-like推理的因果情绪推理框架，通过建模对话中情感与位置关系揭示隐式因果规则，构建三阶段推理流程：因果感知模块提取全局和局部因果证据，因果推理模块通过预推理和二次推理动态演化先验概率为后验概率，似然调整模块优化因果关联。实验表明该框架在RECCON-DD和RECCON-IE数据集上分别达到83.30%和72.14%的宏F1分数，显著优于现有方法。

　　

曾照干|陈志怀|陈玉瑶|王晓毅|姜大志

中国汕头大学计算机科学与技术系，汕头，515821

摘要

因果情感蕴含（CEE）旨在识别对话中非中性话语所表达情感背后的根本原因。尽管在CEE领域取得了进展，但以往的研究未能充分利用对话中的隐含因果规则，从而限制了模型的推理性能。此外，现有模型缺乏对其推理结果的充分逻辑支持，导致可解释性有限。为了解决这些问题，我们对话语之间的情感和位置关系进行了建模，以编码这些因果规则。为了提高模型的推理能力和可解释性，我们将CEE任务概念化为一种类贝叶斯的因果推理过程，该过程包括三个步骤：证据提取、先验演化以及似然调整。首先，我们设计了一个因果感知模块来获取全局和局部的因果证据。接下来，提出了一个由预推理（PI）和次级推理（SI）组成的因果推理模块（CIM）。随着CIM在因果规则的约束下不断吸收因果证据，由PI获得的先验因果概率在SI之后演变为后验因果概率（PCP）。最后，我们提出了一个似然调整模块来使PCP与话语之间的因果关系对齐。实验结果表明，我们提出的框架达到了最先进水平（SOTA），在RECCON-DD和RECCON-IE数据集上分别获得了83.30%和72.14%的Macro F1分数。

引言

对话中的情感分析[1]、[2]、[3]、[4]已成为自然语言处理领域的关键研究方向，人们对情感推理任务[5]、[6]、[7]的关注也在不断增加。为了提高基于情感的模型的可解释性，并弥合在对话中识别情感原因的研究差距，Poria等人[6]引入了一个名为“识别对话中的情感原因（RECCON）”的新任务，并提供了一个标注数据集。该任务专注于从对话中提取情感触发因素，分为两个子任务：话语层面的因果情感蕴含（CEE）和短语层面的因果跨度提取（CSE）。CSE的目标是从因果话语中提取具体的情感原因跨度。我们的工作集中在CEE任务上，旨在识别对话历史中引发目标话语非中性情感的因果话语。图1展示了CEE任务的一个示例。

CEE任务的一个主要挑战在于捕捉对话中情感的动态性质，并对话语之间的因果语义关联进行建模。另一个关键挑战是通过基于推理的方法揭示嵌入在上下文中的隐含因果线索。Poria等人[6]最初将CEE任务定义为一对话语的分类问题，这忽略了对话结构信息，并使话语之间相互分离。在后续研究中，陈等人[8]和张等人[9]设计了基于注意力的模型，将情感和说话者信息结合起来以捕捉话语间的相关性。赵等人[10]和李等人[11]通过图结构引入了常识知识来增强因果推理，但这可能会引入推理噪声。总体而言，以往的研究主要集中在整合外部资源和增强信息交互上，而没有充分建模对话中固有的因果规则。此外，这些模型对其推理结果缺乏足够的逻辑支持。

实际上，对话中话语之间的情感和位置关系编码了丰富的因果规则，反映了基本的语言逻辑。情感是识别目标话语情感原因的关键线索。话语之间的情感关联通常映射到因果相关性上，情感原因通常嵌入在与目标话语具有相同情感的话语中。例如，在图1中，表达惊讶的话语、和与也表达惊讶的相应因果话语相关联。以RECCON-DD数据集为例，表1中的结果显示，与目标话语具有相同情感类型的话语通常包含原因，其次是中性话语。此外，话语之间的因果关联强度随距离而变化。话语之间的距离越近，可能的因果相关性越强。如图1所示，尽管和在情感上与相关，但的因果话语是附近的和。表2进一步显示，情感原因主要嵌入在目标话语之前的前几句话中。然而，以往的研究[6]、[8]、[9]、[10]、[11]缺乏对情感和位置关系的系统建模。因此，它们未能充分利用对话中的潜在因果规则，限制了它们的推理性能。

此外，贝叶斯推理通过将先验知识（过去经验）与新证据（当前信息）[12]、[13]结合起来来解释和预测感知信息[12]、[13]。它支持基于传入证据的动态推理调整，与人类的认知过程[14]、[15]、[16]高度一致。因此，将类贝叶斯推理框架引入CEE任务能够提供一个透明且可解释的推理结构，以揭示情感原因。然而，现有的模型[6]、[8]、[9]、[10]、[11]对其推理结果的逻辑支持不足，限制了透明度和可解释性。

为了解决上述限制，我们提出了一个基于因果规则的类贝叶斯推理框架（BIF）。具体来说，我们对话语之间的情感和位置关系进行建模，以编码对话中固有的因果规则。此外，我们将CEE任务概念化为一种类贝叶斯的因果推理过程，以增强模型的因果推理能力和可解释性。该框架分为三个阶段：证据提取、先验演化以及似然调整。如图2所示。首先，我们基于层次信息融合开发了一个因果感知模块，以获取全局和局部的因果证据用于因果推理。然后，提出了一个由预推理（PI）和次级推理（SI）组成的因果推理模块（CIM），以提高模型的因果推理能力并实现先验演化。CIM利用提出的多关系图卷积网络，在因果规则的约束下支持模型的有效因果推理。同时，CIM逐步将全局和局部因果证据纳入模型，使从PI得出的先验因果概率通过SI演变为后验因果概率（PCP）。随后，通过提出的似然调整模块将PCP修改为话语之间的因果关系。我们在RECOON数据集上评估了BIF，实验结果表明BIF的性能优于最先进的基线方法。本工作的主要贡献总结如下：•

我们对话语之间的情感和位置关系进行建模，以编码对话中隐含的因果规则，帮助模型进行有效的因果推理。

•

我们将CEE任务概念化为一种类贝叶斯的因果推理过程，通过三个步骤增强模型的因果推理能力和可解释性：证据提取（因果感知模块）、先验演化（因果推理模块）以及似然调整（似然调整模块）。

•

在基准数据集上进行了广泛的实验，结果表明提出的BIF达到了最先进水平（SOTA）的性能。

相关工作

相关工作

本节首先回顾了与CEE任务密切相关的两个领域，即对话中的情感识别和情感原因提取，随后介绍了CEE领域的最新进展。

任务定义

CEE的任务是检测非中性目标话语的因果话语。换句话说，给定带有情感_e_t的话语，CEE任务试图确定表现出_e_t>的原因，并识别对话历史中哪些话语$u_1,u_2,\; \dots ,u_t$包含了这一原因。如果候选因果话语包含了目标话语的情感原因，则这对(u_t, u_i)被标记为正例。否则，它被标记为负例。这是CEE任务的一个示例

数据集和评估指标

我们在Poria等人[6]提出的RECCON数据集上进行了实验，该数据集包含两个测试子集：RECCON-IE和RECCON-DD。这两个子集分别基于IEMOCAP [58]和DailyDialog [59]数据集构建。需要注意的是，这两个测试集在几个方面有所不同。具体来说，RECCON-DD与训练集共享相同的数据源，而RECCON-IE则不是[49]。其次，RECCON-IE的平均对话长度要长得多

结论和未来工作

在本文中，我们提出了一个基于因果规则的类贝叶斯推理框架（BIF）用于CEE。我们对话语之间的情感和位置关系进行建模，以编码对话中嵌入的因果规则，帮助模型进行有效的因果推理。此外，我们将CEE任务概念化为一种类贝叶斯的因果推理过程，以提高模型的推理能力和可解释性。该过程包括三个步骤：证据提取、先验演化

CRediT作者贡献声明

曾照干：撰写——审稿与编辑、撰写——初稿、可视化、验证、软件、方法论、调查、形式分析、概念化。陈志怀：监督、软件、项目管理、调查、形式分析、数据整理。陈玉瑶：监督、软件、项目管理、调查、形式分析、数据整理。王晓毅：撰写——审稿与编辑、监督、项目管理。姜大志：撰写——审稿与

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文所述的工作。

作者是该期刊的编委会成员/主编/副主编/客座编辑，未参与本文的编辑审查或发表决定。

致谢

作者感谢所有审稿人的建设性和有益的审稿意见。本研究得到了中国国家自然科学基金（62372283, 62206163）、广东省自然科学基金（2024A1515010239）、广东省科技重大项目（STKJ2021005, STKJ202209002, STKJ2023076）以及广东省高校重点自然科学项目（2024ZDZX1019）的资助。