Melhorando a autenticação comportamental contra ataques adversariais usando XAI

Nos últimos anos, modelos de aprendizado de máquina, especialmente redes neurais profundas, têm sido amplamente utilizados para tarefas de classificação no domínio da segurança. Entretanto, foi demonstrado que esses modelos são vulneráveis a manipulações adversariais: pequenas mudanças aprendidas por um modelo de ataque adversarial, quando aplicadas à entrada, podem causar alterações significativas na saída. A maior parte da pesquisa sobre ataques adversariais e métodos de defesa correspondentes foca apenas em cenários onde amostras adversariais são geradas diretamente pelo modelo de ataque. Neste estudo, exploramos um cenário mais prático em autenticação baseada em comportamento, no qual amostras adversariais são coletadas do atacante. As amostras adversariais geradas pelo modelo são replicadas pelos atacantes com um certo nível de discrepância. Propomos uma estratégia de defesa baseada em IA explicável (XAI) contra ataques adversariais nesses cenários. Um seletor de características, treinado com nosso método, pode ser usado como um filtro antes do autenticador original. Ele filtra características mais vulneráveis a ataques adversariais ou irrelevantes para autenticação, enquanto retém aquelas mais robustas. Por meio de experimentos abrangentes, demonstramos que nossa estratégia de defesa baseada em XAI é eficaz contra ataques adversariais e supera outras estratégias de defesa, como treinamento adversarial e destilação defensiva.