Performance Optimization Study of Hybrid RAG Engine Integrating Multi-Source Knowledge: Vector, Graph, and Ontology Approaches

대규모 언어 모델(LLM)의 환각 현상과 지식의 최신성 부족을 해결하기 위해 검색 증강 생성(RAG) 기술이 제안되었으나, 기존 벡터 유사도 기반 RAG는 복합적인 다단계 관계(Multi-hop) 추론과 엄격한 도메인 규칙 처리에 한계를 보인다. 본 연구는 비정형 데이터의 맥락을 파악하는 Vector, 구조적 연결성을 탐색하는 Graph, 규범적 체계를 정의하는 Ontology를 결합한 Triple-Hybrid RAG 프레임워크를 제안한다. 또한, 질의 의도 분석에서 추출되는 개체 밀도(Entity Density), 관계밀도(Relation Density), 제약 밀도(Constraint Density)의 세 가지 연속적 신호를 활용하여 각 소스의 기여도를 동적으로 조정하는 동적 가중치 알고리즘(DWA)을 상술한다. 합성 대학 행정 데이터(문서 1,037건, 그래프 노드 2,542개, 골드 QA 5,000쌍)를 대상으로 GPT-4o-mini(temperature=0.0) 환경에서 실험한 결과, 단일 벡터 소스 대비 F1 Score에서 19.4%, 복합 질의의 Exact Match(EM)에서 34.5%의 성능 향상을 기록하였다. 3단계 Ablation 실험을 통해 각 구성요소의 기여도를 검증하였으며, 연속적 가중치 조정이 유형 고정 방식 대비 Multi-hop EM에서 3.2%p의 추가 개선을 보였다.