AFLoRA: Congelamento Adaptativo de Adaptação de Baixa Classificação em Ajuste Fino Eficiente em Parâmetros de Modelos Grandes

Apresentamos um novo método de Ajuste Fino Eficiente em Parâmetros (PEFT), denominado Congelamento Adaptativo de Adaptação de Baixa Classificação (AFLoRA). Especificamente, para cada tensor de peso congelado pré-treinado, adicionamos um caminho paralelo de matrizes de baixa classificação treináveis, a saber, uma matriz de projeção para baixo e uma matriz de projeção para cima, cada uma das quais é seguida por um vetor de transformação de características. Com base em uma nova pontuação de congelamento, congelamos progressivamente essas matrizes de projeção durante o ajuste fino para reduzir a computação e aliviar o sobreajuste. Nossos resultados experimentais demonstram que podemos alcançar desempenho de última geração com uma melhoria média de até 0,85% conforme avaliado no benchmark GLUE, ao mesmo tempo que geramos até 9,5 parâmetros treináveis a menos em média. Quando comparado em termos de tempo de execução, o AFLoRA pode resultar em uma melhoria de até 1,86 em oposição a alternativas PEFT similares. Além da utilidade prática de nossa abordagem, fornecemos insights sobre os requisitos de treinabilidade dos caminhos LoRA em diferentes módulos e o cronograma de congelamento para as diferentes matrizes de projeção. O código será liberado.