LLM 편집을 통한 강화된 페싯 생성

정보 검색에서 사용자 쿼리의 페싯 식별은 중요한 작업입니다. 검색 서비스가 사용자의 쿼리의 페싯을 인식할 수 있다면, 훨씬 더 폭넓은 검색 결과를 사용자에게 제공할 수 있는 잠재력이 있습니다. 이전 연구들은 검색 엔진을 통해 얻은 관련 쿼리와 검색된 문서를 활용하여 페싯 예측을 강화할 수 있습니다. 그러나 검색 엔진이 모델의 일부로 작동할 때 다른 응용 프로그램으로 확장하는 데는 도전 과제가 있습니다. 첫째, 검색 엔진은 지속적으로 업데이트됩니다. 따라서 추가 정보는 훈련 및 테스트 중에 변경될 수 있으며, 이는 성능을 감소시킬 수 있습니다. 두 번째 도전 과제는 공용 검색 엔진이 내부 문서를 검색할 수 없다는 것입니다. 따라서 회사의 개인 도메인에서 문서를 통합하기 위해 별도의 검색 시스템을 구축해야 합니다. 우리는 검색 엔진 없이 쿼리만 입력으로 받아 페싯을 예측할 수 있는 프레임워크에 초점을 맞춘 두 가지 전략을 제안합니다. 첫 번째 전략은 SERP를 예측하기 위한 다중 작업 학습입니다. 제안된 모델은 외부 모듈에 의존하지 않고 쿼리를 깊이 이해하기 위해 SERP를 출처가 아닌 목표로 활용합니다. 두 번째 전략은 LLM과 소형 모델을 결합하여 페싯을 강화하는 것입니다. 전체 성능은 페싯 생성을 개별적으로 하는 것보다 소형 모델과 LLM을 결합할 때 향상됩니다.