在任务与语言不确定性的环境下，对人工智能代理的信任与共情

《Scientific Reports》：Trust and empathy toward artificial agents under task-language uncertainty

　　

摘要

人工智能代理越来越频繁地用于辅助人类决策，但用户往往在任务内容或系统推理难以完全理解的条件下与这类系统交互。即便如此，用户仍需决定是否依赖该代理。本研究探讨了在任务语言存在不确定性时，人们对人工智能代理的信任与共情是如何形成的，以及解释如何影响这些过程。我设计了一项基于在线测验的实验（\(N=400\)），通过控制任务语言的可理解性以及是否提供解释，测量了参与者信任感和共情程度的变化情况。同时，还评估了自信度、责任归属感以及任务完成精度等次要指标。研究结果表明，任务的可理解性显著影响了客观表现、自信度以及责任归属感：当任务易于理解时，参与者的表现更好，自信度更高，且更倾向于将责任归为自己。相反，在任务语言难以理解的情况下，信任感反而有所提升，而解释则进一步增强了这种信任感，尽管解释并未提高任务完成精度。在两种语言条件下，共情程度在任务前后均有所上升，其变化趋势受任务语言的影响而有所不同。这些发现表明，对代理的绩效评估与社会评价之间存在差异，说明即便对任务内容的独立评估受到限制，信任感仍有可能上升。