Adversidades en la Interpretación Abstracta - Acomodando la Robustez mediante la Interpretación Abstracta

La robustez es una propiedad clave y deseable de cualquier sistema de clasificación, en particular, para evitar la amenaza en constante aumento de ataques adversariales. De manera informal, un sistema de clasificación es robusto cuando el resultado no se ve afectado por la perturbación de la entrada. Esta noción ha sido estudiada extensamente, pero se ha prestado poca atención a cómo la perturbación afecta la clasificación. La interferencia entre la perturbación y la clasificación puede manifestarse de muchas maneras diferentes, y su comprensión es la principal contribución del presente artículo. Partiendo de una definición rigurosa de una noción estándar de robustez, construimos un método formal para acomodar el grado requerido de robustez, dependiendo de la cantidad de error que el analista puede aceptar en el resultado de la clasificación. Nuestra idea es modelar precisamente este error como una abstracción. Esto nos lleva a definir formas debilitadas de robustez también en el contexto de los lenguajes de programación, particularmente en seguridad basada en lenguajes, por ejemplo, políticas de flujo de información, y en la verificación de programas. Esto último es posible al pasar de un modelo cuantitativo (estándar) de perturbación a un nuevo modelo cualitativo, dado por medio de la noción de abstracción. Al igual que en la seguridad basada en lenguajes, mostramos que es posible confinar adversidades, lo que significa caracterizar el grado de perturbación (y/o el grado de generalización de clases) por el cual el clasificador puede considerarse adecuadamente robusto. Concluimos con una evaluación experimental de nuestras ideas, mostrando cómo las formas debilitadas de robustez se aplican a los clasificadores de imágenes de última generación.