Mejorando la coherencia y consistencia en modelos de secuencia neural con razonamiento dual-sistema y neuro-simbólico

El razonamiento humano a menudo puede entenderse como una interacción entre dos sistemas: intuitivo y asociativo ("Sistema 1") y el deliberativo y lógico ("Sistema 2"). Los modelos de secuencia neural, que han tenido un éxito creciente en la realización de tareas complejas y estructuradas, exhiben las ventajas y fracasos del Sistema 1: son rápidos y aprenden patrones de los datos, pero a menudo son incoherentes. En este trabajo, buscamos una forma liviana y sin entrenamiento para mejorar los modelos de secuencia similares al Sistema 1 existentes añadiendo un razonamiento lógico inspirado en el Sistema 2. Exploramos varias variaciones sobre este tema en las generaciones de candidatos de un modelo de secuencia neural que son examinadas por un módulo de razonamiento simbólico para verificar su consistencia, el cual puede aceptar o rechazar las generaciones. Nuestro enfoque utiliza la inferencia neural para mediar entre el Sistema 1 neural y el Sistema 2 lógico. Los resultados en narraciones robustas y el seguimiento de instrucciones fundamentadas muestran que este enfoque puede mejorar la coherencia y la precisión de las generaciones basadas en redes neuronales.