Melhorando o Raciocínio Complexo sobre Grafo de Conhecimento com Ajuste Curricular Consciente de Lógica

Responder a consultas lógicas complexas sobre grafos de conhecimento incompletos (KGs) é desafiador. A maioria dos trabalhos anteriores se concentrou em aprender embeddings de entidade/relação e simular operadores de lógica de primeira ordem com várias redes neurais. No entanto, eles são limitados pela incapacidade de compartilhar conhecimento do mundo para melhorar o raciocínio lógico, resultando assim em desempenho subótimo. Neste artigo, propomos um esquema de raciocínio lógico complexo sobre grafos de conhecimento utilizando modelos de linguagem grandes (LLMs), contendo uma estrutura de ajuste de instruções consciente de lógica baseada em currículo, chamada LACT. Especificamente, aumentamos as consultas lógicas de primeira ordem arbitrárias por meio da decomposição em árvore binária, para estimular a capacidade de raciocínio dos LLMs. Para abordar a diferença de dificuldade entre diferentes tipos de consultas complexas, projetamos uma estrutura simples e flexível de aprendizado curricular consciente de lógica. Experimentos em conjuntos de dados amplamente utilizados demonstram que o LACT apresenta melhorias substanciais (traz uma média de +5,5% na pontuação MRR) em relação a métodos avançados, alcançando o novo estado da arte. Nosso código e modelo serão lançados no GitHub e huggingface em breve.