《Computers in Human Behavior Reports》：Explaining in Context: Perceived Informativeness of Explainable Artificial Intelligence (XAI) in Arabic Hate Speech Detection
编辑推荐：
为解决阿拉伯语仇恨言论检测中可解释人工智能（XAI）用户感知研究不足的问题，研究人员开展了针对阿拉伯语用户的XAI信息感知研究。结果表明，文本结合视觉显著性的解释方式信息量感知最高，而单纯的视觉复杂度增加（如饼图）虽延长注视时间但未提升感知信息量，强调了XAI界面设计需注重视觉清晰度而非堆砌元素。
在社交媒体日益成为公共话语空间的今天，仇恨言论（Hate Speech）的泛滥已成为侵蚀网络生态的毒瘤。尽管平台方利用人工智能（AI）进行内容过滤，但“黑盒”决策常常让用户感到困惑：为什么这条评论被标记为仇恨？现有的可解释人工智能（Explainable AI, XAI）研究大多围绕英语世界和平台管理员展开，对于阿拉伯语这类多方言、高语境的语言，以及真正发布内容的普通用户而言，XAI是否依然“解释得清”？这项发表于《Computers in Human Behavior Reports》的研究，将目光投向了这一空白地带。
研究背景：当AI审核遇上阿拉伯语“方言迷宫”
仇恨言论的界定本就困难，在阿拉伯语场景下更是难上加难。不同于相对统一的现代标准阿拉伯语（MSA），日常社交媒体的交流充斥着各地俚语和方言，这给AI模型的泛化能力带来了巨大挑战。更关键的是，现有的XAI系统往往默认用户具有西方的认知习惯，忽视了文化语境对解释理解的影响。对于阿拉伯语用户来说，一个仅仅显示“仇恨概率85%”的弹窗，远不如高亮具体冒犯性词汇来得直观。本研究正是要探究：在阿拉伯语仇恨言论检测中，什么样的XAI呈现方式，才能让用户觉得真正“有用”？
技术方法概要
研究团队采用了混合方法进行验证。首先，基于Meske等人提出的设计原则（DPs），开发了包含文本高亮（Text Highlighting）、视觉显著图（Visual Saliency）、饼图（Pie Chart）及组合形式的XAI原型界面。随后招募阿拉伯语参与者，利用眼动追踪（Eye-tracking）技术客观记录其视觉注意力分配（如注视时长），并配合社会媒体活动问卷（SMAQ）、感知信息量问卷（PI）等主观量表，综合分析不同XAI形式的效果。
研究结果
1. 什么解释最“有用”？文本+视觉显著性胜出
研究发现，用户并非对所有花哨的图表都买账。在感知信息量（Perceived Informativeness）的评分中，“文本高亮”（直接标出敏感词）和“视觉显著图”（热力图式提示）获得了最高评价。这两种方式直接将用户的注意力引导至具体的语言特征上，降低了理解门槛。相比之下，单纯的“饼图”虽然看起来直观，但在解释“为什么这是仇恨言论”这一核心问题上，信息密度较低。
2. 看的时间长≠理解更深
眼动数据揭示了一个有趣的现象：当界面中同时出现文本和饼图时，用户的总注视时长（Total Fixation Duration）反而显著增加。但这并非好事——研究表明，这种增加的注视往往是因为用户在费力地整合两种不同形式的信息，而非因为内容更清晰。换句话说，额外的视觉元素可能增加了认知负荷，而非提升了信息量。
3. 资深网民并不更“挑剔”
研究还考察了用户背景的影响。结果显示，参与者的社交媒体使用时长（Social Media Usage Duration）对XAI的信息感知没有显著影响。这意味着，无论是网络新手还是重度用户，都对清晰、直接的解释有同样的需求，设计XAI系统时无需为不同使用习惯的用户设计截然不同的解释路径。
结论与启示：少即是多，清晰为王
这项研究打破了“解释越复杂越详细越好”的迷思。对于阿拉伯语仇恨言论检测系统而言，“文本高亮”配合简洁的视觉显著性提示是最佳实践。它既能快速定位问题，又避免了界面元素过载。这一结论强调了XAI设计应从“堆砌功能”转向“精准传达”，特别是在跨文化语境下，视觉清晰度比视觉复杂度更重要。未来的研究可以在此基础上，进一步探索如何利用XAI机制引导用户反思并减少仇恨言论的发布，而不仅仅是事后标注。
