문제 해결 논리에 기반한 커리큘럼 내 학습을 통한 LLM의 복잡한 추론 능력 향상

맥락 내 학습(ICL)은 대규모 언어 모델(LLMs)의 복잡한 추론 능력을 크게 향상시킬 수 있으며, 그 핵심은 시연 예제의 선택과 순서에 있습니다. 이전 방법들은 일반적으로 예제 간의 관련성을 측정하기 위해 단순한 특징에 의존했습니다. 우리는 이러한 특징들이 예제 간의 내재적 연결을 반영하기에 충분하지 않다고 주장합니다. 본 연구에서는 문제 해결 논리에 의해 안내되는 커리큘럼 ICL 전략을 제안합니다. 문제 해결 논리를 분석하여 시연 예제를 선택하고 이를 커리큘럼 학습에 따라 순서를 매깁니다. 구체적으로, 우리는 BREAK 데이터셋을 기반으로 문제 해결 논리 지침 세트를 구성하고 예제의 문제 해결 논리를 분석하기 위해 언어 모델을 미세 조정했습니다. 그 후, 문제 해결 논리를 기반으로 적절한 시연 예제를 선택하고 이의 난이도를 문제 해결 단계 수에 따라 평가했습니다. 커리큘럼 학습의 원칙에 따라 우리는 예제를 쉬운 것에서 어려운 것으로 정렬하여 맥락적 프롬프트로 활용했습니다. 여러 기준에 대한 실험 결과는 우리의 방법이 성능 및 효율성 측면에서 이전 ICL 접근법보다 우수하며, LLM의 복잡한 추론 능력을 효과적으로 향상시킨다는 것을 보여줍니다. 우리의 프로젝트는 https://github.com/maxuetao/CurriculumICL에서 공개될 예정입니다.