大型语言模型(LLMs)在广泛的语言相关任务中展现出了卓越的能力,包括生成复杂推理问题的解决方案。增强LLM性能的一种有效技术是上下文学习,它通过包含解释性示例来指导模型的响应,从而促进逐步推理过程。然而,为模型选择合适的示例是一个挑战,因为每个数据集都需要一组独特的示例,以使LLM能够有效学习并在测试集上表现良好。目前的研究通常依赖于基于不确定性或多样性的选择策略来选择示例进行标注并改善模型学习。然而,这些研究通常采用非自适应方法,一次性选择一组示例。我们认为这种非自适应策略可能会导致所选示例在知识覆盖方面具有较高的冗余性,最终降低其整体信息量。为了解决这个局限性,我们提出了Adaptive-Prompt,这是一种通过利用先前选择示例的模型反馈来自适应性选择示例的新方法。实验结果表明,Adaptive-Prompt显著提升了LLM在各种推理任务中的性能。
Cai等(2025)研究了这个问题。