Defensa Causal Certificada con Robustez Generalizable

Mientras que los modelos de aprendizaje automático han demostrado ser efectivos en varios escenarios, se reconoce ampliamente que muchos modelos son vulnerables a ataques adversariales. Recientemente, han surgido numerosos esfuerzos en defensa adversarial. Entre ellos, la defensa certificada es bien conocida por sus garantías teóricas contra perturbaciones adversariales arbitrarias en la entrada dentro de un cierto rango (por ejemplo, ball l₂). Sin embargo, la mayoría de los trabajos existentes en esta línea tienen dificultades para generalizar su robustez certificada en otros dominios de datos con cambios en la distribución. Este problema se origina en la dificultad de eliminar el impacto negativo de correlaciones espurias en la robustez en diferentes dominios. Para abordar este problema, en este trabajo, proponemos un nuevo marco de defensa certificada GLEAN, que incorpora una perspectiva causal en el problema de generalización en defensa certificada. Más específicamente, nuestro marco integra un componente de aprendizaje de factor causal certificable para desenredar las relaciones causales y las correlaciones espurias entre la entrada y la etiqueta, y así excluir el efecto negativo de las correlaciones espurias en la defensa. Además, diseñamos una estrategia de defensa causalmente certificada para manejar ataques adversariales en factores causales latentes. De esta manera, nuestro marco no solo es robusto contra ruidos maliciosos en los datos en la distribución de entrenamiento, sino que también puede generalizar su robustez a través de dominios con cambios en la distribución. Amplios experimentos en conjuntos de datos de referencia validan la superioridad de nuestro marco en la generalización de robustez certificada en diferentes dominios de datos. El código está disponible en los materiales suplementarios.