C-LoRA: Adaptación Continua de Bajo Rango para Modelos Preentrenados

La Adaptación de Bajo Rango (LoRA) es un método de ajuste fino eficiente que se ha aplicado extensamente en áreas como el procesamiento del lenguaje natural y la visión por computadora. Los enfoques de ajuste fino de LoRA existentes destacan en entornos estáticos, pero tienen dificultades en el aprendizaje dinámico debido a la dependencia de múltiples módulos de adaptadores, lo que aumenta la sobrecarga y complica la inferencia. Proponemos la Adaptación Continua de Bajo Rango (C-LoRA), una extensión novedosa de LoRA para el aprendizaje continuo. C-LoRA utiliza una matriz de enrutamiento aprendible para gestionar dinámicamente las actualizaciones de parámetros a través de tareas, asegurando una reutilización eficiente de subespacios aprendidos mientras se impone ortogonalidad para minimizar la interferencia y el olvido. A diferencia de los enfoques existentes que requieren adaptadores separados para cada tarea, C-LoRA permite un enfoque integrado para la adaptación de tareas, logrando tanto escalabilidad como eficiencia de parámetros en escenarios de aprendizaje secuencial. C-LoRA logra una precisión y eficiencia de parámetros de última generación en pruebas mientras proporciona perspectivas teóricas sobre el papel de su matriz de enrutamiento en la retención y transferencia del conocimiento, estableciendo un marco escalable para el aprendizaje continuo.