Detecção de Imagens Adversariais Baseada em Camadas Neurais Bayesiana

Embora Redes Neurais Profundas (DNNs) tenham repetidamente mostrado excelente desempenho, elas são conhecidas por serem vulneráveis a ataques adversariais que contêm perturbações imperceptíveis ao humano. Múltiplas estratégias de defesa adversarial foram propostas para aliviar esse problema, mas muitas vezes demonstram praticabilidade restrita em relação à eficiência e ao tratamento apenas de ataques específicos. Neste artigo, analisamos o desempenho de Redes Neurais Bayesiana (BNNs) dotadas de uma distribuição posterior aproximada flexível para detectar exemplos adversariais. Além disso, estudamos quão robusto é o método de detecção quando camadas bayesianas estão localizadas no topo ou ao longo das DNNs para determinar o papel das camadas ocultas da rede e comparamos os resultados com os determinísticos. Mostramos como BNNs oferecem um método poderoso e prático de detecção de exemplos adversariais em comparação com abordagens determinísticas. Finalmente, discutimos o impacto de ter modelos bem calibrados como detectores e como priors não gaussianos melhoram o desempenho da detecção.