自动纠正大型语言模型：调查多样化自动纠正策略的全景

摘要 尽管大型语言模型 (LLMs) 在各种自然语言处理任务中表现出显著的有效性，但它们仍然容易出现幻觉、不忠实推理和有毒内容等问题。纠正这些缺陷的一种有前景的方法是通过反馈对 LLM 进行修正，其中 LLM 本身被提示或指导以修复其输出中的问题。利用自动反馈的技术——无论是由 LLM 自身产生的（自我修正）还是由某些外部系统产生的——特别引人关注，因为它们使基于 LLM 的解决方案更具实用性和可部署性，并且人类干预最小。本文对利用自动反馈纠正 LLM 的最新进展进行了全面回顾，将其分类为训练时、生成时和事后方法。我们还指出了该新兴领域中的潜在挑战和未来发展方向。