¡No olvides conectar! Mejorando RAG con reordenamiento basado en grafos

La Generación Aumentada por Recuperación (RAG) ha mejorado enormemente el rendimiento de las respuestas de los Modelos de Lenguaje Grandes (LLM) al fundamentar la generación con contexto de documentos existentes. Estos sistemas funcionan bien cuando los documentos son claramente relevantes para un contexto de pregunta. Pero, ¿qué sucede cuando un documento tiene información parcial o conexiones menos obvias con el contexto? ¿Y cómo deberíamos razonar sobre las conexiones entre documentos? En este trabajo, buscamos responder a estas dos preguntas fundamentales sobre la generación RAG. Presentamos G-RAG, un reordenador basado en redes neuronales de grafos (GNNs) entre el recuperador y el lector en RAG. Nuestro método combina tanto las conexiones entre documentos como la información semántica (a través de gráficos de Representación de Significado Abstracto) para proporcionar un clasificador informado por el contexto para RAG. G-RAG supera a los enfoques más avanzados mientras tiene una menor huella computacional. Además, evaluamos el rendimiento de PaLM 2 como reordenador y encontramos que subrinde significativamente a G-RAG. Este resultado enfatiza la importancia del reordenamiento para RAG incluso cuando se utilizan Modelos de Lenguaje Grandes.