大型语言模型(LLMs)在使用诸如思维链(CoT)和检索增强生成(RAG)等技术回答问题方面表现出了显著的能力。CoT 通过逐步推理提高准确性,而 RAG 则用相关的外部信息来补充 LLM。检索增强思维(RAT)结合了 CoT 和 RAG,以提供更为稳健的事实基础和推理链条的连贯性。然而,RAT 在处理不确定性方面存在局限性,并且缺乏重规划,常常导致不必要的检索、低效和全局不一致的推理。为了解决这些局限,我们提出了 iRAT,这是一个通过检索控制和重规划来增强 RAT 的新颖推理框架。iRAT 动态评估初始响应中的不确定性,采用控制和过滤的检索以获取最相关的上下文,修正思维以与新内容对齐,并使用重规划来纠正先前的思维。评估表明,iRAT 在 HumanEval、MBPP 和 GSM8K 数据集上的表现优于 RAT,同时显著减少了检索次数。源代码可在 github.com/prane-eth/iRAT 获取。用于重规划的微调模型可在 huggingface.co/zeeshan5k/iRATReasoningChainEvaluatorv2 获取。
Ali 等(周二)研究了这个问题。