지식 그래프로부터 검색 증강 대규모 언어 모델을 위한 계획 학습

복잡한 질문-응답(QA) 시나리오에서 대규모 언어 모델(LLMs)의 성능 향상은 항상 연구의 중심점이었습니다. 최근 연구들은 외부 검색과 단계별 계획을 결합하여 LLMs의 성능을 향상시키려 시도했습니다. GPT-3.5와 같은 고급 모델에는 효과적이지만, 작은 LLMs는 복잡한 질문을 분해하는 데 어려움을 겪어 감독된 세밀 조정이 필요합니다. 이전 연구는 수작업 주석 및 교사 LLMs의 지식 증류에 의존했으나, 이는 시간 소모가 크고 정확성이 부족합니다. 본 논문에서는 지식 그래프(KGs)에서 파생된 계획 데이터를 사용하여 LLMs의 계획 능력을 향상시키기 위한 새로운 프레임워크를 소개합니다. 이 데이터로 세밀 조정된 LLMs는 향상된 계획 능력을 가지게 되어 검색을 포함한 복잡한 QA 작업을 처리하는 데 더 잘 대비할 수 있습니다. 우리의 새로 제안한 기준점을 포함한 여러 데이터셋에 대한 평가 결과, 우리의 프레임워크의 효과성과 KG 기반의 계획 데이터의 장점이 강조되었습니다.