DRAGIN：基于大型语言模型实时信息需求的动态检索增强生成

动态检索增强生成（RAG）范式在大型语言模型（LLMs）的文本生成过程中主动决定何时以及检索什么。这一范式有两个关键元素：识别激活检索模块的最佳时机（决定何时检索）和一旦触发检索后构建适当的查询（确定检索什么）。然而，当前的动态RAG方法在这两方面均存在不足。首先，决定何时检索的策略通常依赖于静态规则。此外，决定检索什么的策略通常仅限于LLM的最近一句话或最后几个标记，而LLM的实时信息需求可能跨越整个上下文。为了克服这些局限性，我们提出了一个新的框架DRAGIN，即基于LLM实时信息需求的动态检索增强生成。我们的框架专门设计用于在文本生成过程中根据LLM的实时信息需求来决定何时以及检索什么。我们在4个知识密集型生成数据集上全面评估了DRAGIN及现有方法。实验结果表明，DRAGIN在所有任务上表现优越，展示了我们方法的有效性。我们已在GitHub上开源了所有代码、数据和模型：https://github.com/oneal2000/DRAGIN/tree/main