Una encuesta sobre la seguridad y privacidad de los modelos de lenguaje grandes (LLM): Lo Bueno, Lo Malo y Lo Feo

Los Modelos de Lenguaje Grandes (LLMs), como ChatGPT y Bard, han revolucionado la comprensión y generación del lenguaje natural. Poseen una profunda comprensión del lenguaje, habilidades de generación de texto similares a las humanas, conciencia contextual y sólidas habilidades de resolución de problemas, lo que los hace invaluables en varios dominios (por ejemplo, motores de búsqueda, soporte al cliente, traducción). Mientras tanto, los LLMs también han ganado tracción en la comunidad de seguridad, revelando vulnerabilidades de seguridad y mostrando su potencial en tareas relacionadas con la seguridad. Este documento explora la intersección de los LLMs con la seguridad y la privacidad. Específicamente, investigamos cómo los LLMs impactan positivamente la seguridad y la privacidad, los riesgos y amenazas potenciales asociados con su uso y las vulnerabilidades inherentes dentro de los LLMs. A través de una revisión exhaustiva de la literatura, el documento categoriza los trabajos en “Lo Bueno” (aplicaciones beneficiosas de LLM), “Lo Malo” (aplicaciones ofensivas) y “Lo Feo” (vulnerabilidades de los LLMs y sus defensas). Hemos encontrado algunos resultados interesantes. Por ejemplo, los LLMs han demostrado mejorar la seguridad del código (detección de vulnerabilidades en el código) y la privacidad de los datos (protección de la confidencialidad de los datos), superando a los métodos tradicionales. Sin embargo, también pueden ser aprovechados para varios ataques (particularmente ataques a nivel de usuario) debido a sus habilidades de razonamiento similares a las humanas. Hemos identificado áreas que requieren más esfuerzos de investigación. Por ejemplo, la investigación sobre ataques de extracción de modelos y parámetros es limitada y a menudo teórica, obstaculizada por la escala y confidencialidad de los parámetros de los LLMs. El ajuste seguro de instrucciones, un desarrollo reciente, requiere más exploración. Esperamos que nuestro trabajo pueda arrojar luz sobre el potencial de los LLMs para fortalecer y poner en peligro la ciberseguridad.