L1RA: Asignación Dinámica de Rangos en el Ajuste Fino de LoRA

La capacidad de los Modelos de Lenguaje Grande (LLMs) para resolver tareas complejas los ha convertido en cruciales en el desarrollo de aplicaciones basadas en IA. Sin embargo, los altos requisitos computacionales para ajustar finamente estos LLMs en tareas específicas presentan desafíos significativos, particularmente cuando los recursos son limitados. En respuesta a este desafío, introducimos L1RA, una técnica novedosa destinada a distribuir dinámicamente el rango de adaptadores de bajo rango durante el ajuste fino utilizando LoRA. Dada una asignación de rango (es decir, la suma total del rango de adaptadores), L1RA aprovecha la regularización L1 para podar rangos redundantes y redistribuirlos entre los adaptadores, optimizando así la utilización de recursos. A través de una serie de experimentos exhaustivos, demostramos empíricamente que L1RA mantiene una sobrecarga computacional comparable o incluso reducida en comparación con otras variantes de LoRA, incluida la aproximación estándar, mientras logra rendimientos iguales o mejores. Además, el análisis posterior al entrenamiento de la distribución de rangos reveló información sobre los componentes específicos del modelo que requieren la mayor adaptación para alinearse con el objetivo de la tarea: las capas de avance y la proyección de salida de atención. Estos resultados destacan la eficacia de L1RA no solo para mejorar la eficiencia del ajuste fino de LLM, sino también para proporcionar información diagnóstica valiosa para la mejora y personalización del modelo. En conclusión, L1RA se presenta como una técnica prometedora para avanzar en el rendimiento y la interpretabilidad de la adaptación de LLM, particularmente en escenarios donde los recursos computacionales son limitados.