LLM Único, Múltiplos Papéis: Uma Estrutura Unificada de Geração Aumentada por Recuperação Usando Otimização de Tokens Específicos de Papel

Estudos existentes otimizaram a geração aumentada por recuperação (RAG) em várias subtarefas, como compreensão de consultas e refinamento de recuperação, mas integrar essas otimizações em uma estrutura unificada continua sendo desafiador. Para enfrentar esse problema, este trabalho propõe o RoleRAG, uma estrutura unificada de RAG que alcança processamento multi-tarefa eficiente por meio da otimização de tokens específicos de papel. O RoleRAG é composto por seis módulos, cada um lidando com uma subtarefa específica dentro do processo de RAG. Além disso, introduzimos um gráfico de consulta para representar a decomposição da consulta, que pode ser resolvido dinamicamente de acordo com o estado de decomposição. Todos os módulos são acionados pela mesma LLM subjacente, diferenciados por tokens de papel específicos da tarefa que são otimizados individualmente. Esse design permite que o RoleRAG ative dinamicamente diferentes módulos dentro de uma única instância de LLM, simplificando assim a implementação e reduzindo o consumo de recursos. Resultados experimentais em cinco conjuntos de dados de perguntas e respostas de domínio aberto demonstram a eficácia, generalizabilidade e flexibilidade da nossa estrutura.