Avances Recientes en el Aprendizaje Continuo Basado en Modelos de Lenguaje Fundamentales: Una Encuesta

Recientemente, los modelos de lenguaje fundamentales (LMs) han logrado avances significativos en los dominios del procesamiento del lenguaje natural (NLP) y la visión por computadora (CV). A diferencia de los modelos tradicionales de redes neuronales, los LMs fundamentales obtienen una gran capacidad para el aprendizaje por transferencia al adquirir un rico conocimiento del sentido común a través de un preentrenamiento en extensos conjuntos de datos no supervisados con un vasto número de parámetros. Sin embargo, aún no pueden emular el aprendizaje continuo similar al humano debido al olvido catastrófico. En consecuencia, se han desarrollado varias metodologías basadas en el aprendizaje continuo (CL) para refinar los LMs, permitiéndoles adaptarse a nuevas tareas sin olvidar conocimientos previos. Sin embargo, aún falta una taxonomía sistemática de los enfoques existentes y una comparación de su rendimiento, que es la brecha que nuestra encuesta pretende llenar. Nos adentramos en una revisión integral, resumida y clasificada de la literatura existente sobre enfoques basados en CL aplicados a modelos de lenguaje fundamentales, como modelos de lenguaje preentrenados (PLMs), modelos de lenguaje de gran tamaño (LLMs) y modelos de visión y lenguaje (VLMs). Dividimos estos estudios en CL offline y CL online, que consisten en métodos tradicionales, métodos basados en eficiencia de parámetros, métodos basados en ajuste de instrucciones y métodos de preentrenamiento continuo. El CL offline abarca el aprendizaje incremental de dominio, el aprendizaje incremental de tareas y el aprendizaje incremental de clases, mientras que el CL online se subdivide en configuraciones de límite de tarea difícil y límite de tarea difuso. Además, esbozamos los conjuntos de datos y métricas típicas empleados en la investigación de CL y proporcionamos un análisis detallado de los desafíos y trabajos futuros para el aprendizaje continuo basado en LMs.