LRP4RAG：通过逐层相关传播检测检索增强生成中的幻觉

检索增强生成（RAG）已成为缓解大型语言模型（LLMs）中幻觉的主要技术。然而，不完整的知识提取和不足的理解仍然可能误导LLMs产生无关或甚至矛盾的响应，这意味着幻觉在RAG中仍然存在。在本文中，我们提出了LRP4RAG，这是一种基于逐层相关传播（LRP）算法的方法，用于检测RAG中的幻觉。具体而言，我们首先利用LRP计算RAG生成器输入与输出之间的相关性。然后我们对相关性矩阵进行进一步提取和重采样。处理后的相关性数据被输入到多个分类器中，以确定输出是否包含幻觉。根据我们的了解，这是LRP首次用于检测RAG幻觉，并且广泛实验表明LRP4RAG优于现有基线。