La Seguridad y Privacidad Emergentes del Agente LLM: Una Encuesta con Estudios de Caso

Inspirados por el rápido desarrollo de los Modelos de Lenguaje de Gran Tamaño (LLMs), los agentes LLM han evolucionado para realizar tareas complejas. Los agentes LLM se aplican ahora de manera extensa en varios dominios, manejando grandes cantidades de datos para interactuar con humanos y ejecutar tareas. Las aplicaciones generalizadas de los agentes LLM demuestran su significativo valor comercial; sin embargo, también exponen vulnerabilidades de seguridad y privacidad. En la etapa actual, se necesita urgentemente una investigación exhaustiva sobre la seguridad y privacidad de los agentes LLM. Esta encuesta tiene como objetivo proporcionar una visión general completa de los nuevos problemas de privacidad y seguridad que enfrentan los agentes LLM. Comenzamos presentando el conocimiento fundamental sobre los agentes LLM, seguido de una categorización y análisis de las amenazas. Luego discutimos los impactos de estas amenazas sobre los humanos, el medio ambiente y otros agentes. Posteriormente, revisamos las estrategias defensivas existentes y, finalmente, exploramos las tendencias futuras. Además, la encuesta incorpora diversos estudios de caso para facilitar una comprensión más accesible. Al resaltar estos problemas críticos de seguridad y privacidad, la encuesta busca estimular futuras investigaciones hacia la mejora de la seguridad y privacidad de los agentes LLM, aumentando así su confiabilidad y credibilidad en aplicaciones futuras.