La Seguridad y Privacidad Emergente del Agente LLM: Una Encuesta con Estudios de Caso

Inspirados por el rápido desarrollo de los Modelos de Lenguaje Grande (LLMs), los agentes LLM han evolucionado para realizar tareas complejas. Los agentes LLM ahora se aplican extensamente en varios dominios, manejando enormes cantidades de datos para interactuar con humanos y ejecutar tareas. Las aplicaciones generalizadas de los agentes LLM demuestran su significativo valor comercial; sin embargo, también exponen vulnerabilidades de seguridad y privacidad. En esta etapa, se necesita con urgencia una investigación exhaustiva sobre la seguridad y la privacidad de los agentes LLM. Esta encuesta tiene como objetivo proporcionar una visión general completa de los problemas de privacidad y seguridad recién emergidos que enfrentan los agentes LLM. Comenzamos presentando el conocimiento fundamental de los agentes LLM, seguido de una categorización y análisis de las amenazas. Luego discutimos los impactos de estas amenazas en los humanos, el medio ambiente y otros agentes. Posteriormente, revisamos las estrategias defensivas existentes y finalmente exploramos las tendencias futuras. Además, la encuesta incorpora diversos estudios de caso para facilitar una comprensión más accesible. Al resaltar estos problemas críticos de seguridad y privacidad, la encuesta busca estimular investigaciones futuras para mejorar la seguridad y la privacidad de los agentes LLM, aumentando así su confiabilidad y credibilidad en aplicaciones futuras.