Mejorando la Recuperación de Conocimientos Biomédicos mediante Generación Aumentada por Recuperación con Búsqueda de Árbol Autosatisfactoria y Optimización de Política Proximal

Los Modelos de Lenguaje Grande (LLMs) han mostrado un gran potencial en el dominio biomédico con el avance de la generación aumentada por recuperación (RAG). Sin embargo, los enfoques existentes aumentados por recuperación enfrentan desafíos en el tratamiento de consultas y documentos diversos, particularmente para consultas de conocimiento médico, lo que resulta en un rendimiento subóptimo. Para abordar estas limitaciones, proponemos un nuevo método de recuperación basado en LLM llamado Búsqueda de Árbol Autosatisfactoria (SeRTS) basado en la Búsqueda de Árbol de Monte Carlo (MCTS) y un paradigma de autosatisfacción. Al combinar las capacidades de razonamiento de los LLM con la efectividad de la búsqueda en árboles, SeRTS mejora el rendimiento de cero disparos en la recuperación de resultados de alta calidad e informativos para RAG. Además, mejoramos el rendimiento de recuperación afinando LLMs con objetivos de Optimización de Política Proximal (PPO) utilizando las trayectorias recolectadas por SeRTS como retroalimentación. Experimentos controlados utilizando el conjunto de datos BioASQ-QA con GPT-3.5-Turbo y LLama2-7b demuestran que nuestro método mejora significativamente el rendimiento del recuperador BM25 y supera la sólida referencia de autorreflexión tanto en eficiencia como en escalabilidad. Además, SeRTS genera retroalimentación de mayor calidad para el entrenamiento de PPO que la autorreflexión. Nuestro método propuesto se adapta efectivamente a las tareas de recuperación de documentos, mejorando su capacidad para recuperar documentos altamente relevantes para RAG en el contexto de consultas de conocimiento médico. Este trabajo presenta un avance significativo en el aprovechamiento de los LLM para responder preguntas biomédicas de manera precisa y completa.