Récupération et Raisonnement sur les GCs : Intégrer les Graphes de Connaissances dans les Grands Modèles de Langage pour le Questionnement Complexe

Malgré les performances impressionnantes des Grands Modèles de Langage (LLMs) dans diverses tâches de Traitement du Langage Naturel (NLP), leurs phénomènes d'hallucination inhérents remettent sérieusement en question leur crédibilité dans le raisonnement complexe. Combiner des Graphes de Connaissances (GCs) explicables avec les LLMs est une voie prometteuse pour résoudre ce problème. Cependant, les GCs structurés sont difficiles à utiliser, et comment faire en sorte que les LLMs les comprennent et les intègrent est un sujet difficile. Nous réorganisons donc une structure plus efficace des GCs, tout en concevant des stratégies de tuning d'instructions liées aux GCs et de pré-entraînement continu pour permettre aux LLMs d'apprendre et d'intérioriser cette forme de représentation de manière efficace. De plus, nous construisons des sous-graphes pour renforcer davantage les capacités de récupération des GCs via un raisonnement CoT. Des expériences approfondies sur deux ensembles de données KGQA montrent que notre modèle atteint des performances convaincantes par rapport à des références solides 1.