Detección de Prompts Adversariales en Modelos de Lenguaje Grande: Un Enfoque Basado en Clasificación

Los Modelos de Lenguaje Grande (LLMs) han avanzado significativamente la interacción humano-computadora al mejorar la comprensión y generación del lenguaje natural. Sin embargo, su vulnerabilidad a prompts adversariales–entradas cuidadosamente diseñadas que manipulan las salidas del modelo–presenta desafíos sustanciales. Este documento introduce un enfoque basado en la clasificación para detectar prompts adversariales utilizando tanto características de los prompts como características de las respuestas a los prompts. Se evaluaron once modelos de aprendizaje automático según métricas clave como precisión, exactitud, recuerdo y F1-score. Los resultados muestran que el modelo en cascada de Red Neuronal Convolucional–Memoria a Largo Corto Plazo (CNN-LSTM) ofrece el mejor rendimiento, especialmente al utilizar características de los prompts, logrando una precisión de más del 97% en todos los escenarios adversariales. Además, el modelo de Máquina de Vector de Soporte (SVM) tuvo el mejor rendimiento con características de las respuestas a los prompts, sobresaliendo particularmente en tareas de clasificación de tipo de prompt. Los resultados de clasificación revelaron que ciertos tipos de ataques adversariales, como “Nivel de Palabra” y “Prefijo Adversarial”, fueron particularmente difíciles de detectar, como lo indican su bajo recuerdo y F1-scores. Estos hallazgos sugieren que manipulaciones más sutiles pueden eludir los mecanismos de detección. En contraste, ataques como “Nivel de Oración” y “Inserción Adversarial” fueron más fáciles de identificar, debido a la efectividad del modelo en reconocer contenido insertado. Las técnicas de Procesamiento de Lenguaje Natural (NLP) jugaron un papel crítico al permitir la extracción de características semánticas y sintácticas tanto de los prompts como de sus respectivas respuestas. Estas percepciones destacan la importancia de combinar enfoques tradicionales y de aprendizaje profundo, junto con técnicas avanzadas de NLP, para construir sistemas de detección de prompts adversariales más confiables para los LLMs.