ActiveRAG: Revelando os Tesouros do Conhecimento através da Aprendizagem Ativa

A Geração Aumentada por Recuperação (RAG) introduziu um novo paradigma para Modelos de Linguagem de Grande Escala (LLMs), ajudando na resolução de tarefas intensivas em conhecimento. No entanto, os modelos RAG atuais posicionam os LLMs como receptores passivos de conhecimento, restringindo assim sua capacidade de aprender e compreender conhecimento externo. Neste artigo, apresentamos o ActiveRAG, uma estrutura RAG inovadora que muda da aquisição passiva de conhecimento para um mecanismo de aprendizagem ativa. Esta abordagem utiliza o mecanismo de Construção do Conhecimento para desenvolver uma compreensão mais profunda do conhecimento externo, associando-o ao conhecimento anteriormente adquirido ou memorizado. Subsequentemente, projeta o mecanismo de Nexus Cognitivo para incorporar os resultados de ambas as cadeias de pensamento e construção do conhecimento, calibrando assim a cognição intrínseca dos LLMs. Nossos resultados experimentais demonstram que o ActiveRAG supera modelos RAG anteriores, alcançando uma melhoria de 5% nos conjuntos de dados de perguntas e respostas. Todos os dados e códigos estão disponíveis em https://github.com/OpenMatch/ActiveRAG.