Aprendizaje automático adversarial para ciberseguridad y visión por computadora: Desarrollos actuales y desafíos

Resumen Proporcionamos una visión general completa del aprendizaje automático adversarial centrándonos en dos dominios de aplicación, es decir, ciberseguridad y visión por computadora. La investigación en aprendizaje automático adversarial aborda una amenaza significativa para la amplia aplicación de técnicas de aprendizaje automático: son vulnerables a ataques cuidadosamente elaborados por adversarios maliciosos. Por ejemplo, las redes neuronales profundas no logran clasificar correctamente imágenes adversariales, que se generan al añadir perturbaciones imperceptibles a imágenes limpias. Primero discutimos tres categorías principales de ataques contra técnicas de aprendizaje automático: ataques de envenenamiento, ataques de evasión y ataques a la privacidad. Luego se presentan los enfoques de defensa correspondientes junto con las debilidades y limitaciones de los enfoques de defensa existentes. Notamos que las muestras adversariales en ciberseguridad y visión por computadora son fundamentalmente diferentes. Mientras que las muestras adversariales en ciberseguridad a menudo tienen propiedades/distribuciones diferentes en comparación con los datos de entrenamiento, las imágenes adversariales en visión por computadora se crean con ligeras perturbaciones de entrada. Esto complica aún más el desarrollo de técnicas de aprendizaje robustas, porque una técnica de aprendizaje robusta debe resistir diferentes tipos de ataques. Este artículo se clasifica bajo: Aprendizaje Estadístico y Métodos Exploratorios de las Ciencias de Datos > Agrupamiento y Clasificación Aprendizaje Estadístico y Métodos Exploratorios de las Ciencias de Datos > Aprendizaje Profundo Métodos Estadísticos y Gráficos de Análisis de Datos > Métodos Robustos