Do Ataque à Defesa: Percepções sobre Medidas de Segurança em Deep Learning em Cenários Black-Box

Deep Learning (DL) está amadurecendo rapidamente a ponto de poder ser usado em aplicações cruciais para segurança e proteção. No entanto, amostras adversariais, que são indetectáveis ao olho humano, representam uma ameaça séria que pode causar mau funcionamento do modelo e comprometer o desempenho dessas aplicações. Abordar a robustez dos modelos DL tornou-se essencial para entender e se defender contra ataques adversariais. Neste estudo, realizamos experimentos abrangentes para examinar o efeito de ataques e defesas adversariais em várias arquiteturas de modelos em datasets amplamente conhecidos. Nossa pesquisa foca em ataques black-box como SimBA, HopSkipJump, MGAAttack e ataques de fronteira, bem como mecanismos defensivos baseados em pré-processadores, incluindo compressão de bits, suavização mediana e filtro JPEG. Experimentando com vários modelos, nossos resultados demonstram que o nível de ruído necessário para o ataque aumenta à medida que o número de camadas cresce. Além disso, a taxa de sucesso do ataque diminui com o aumento do número de camadas. Isso indica que a complexidade do modelo e a robustez têm uma relação significativa. Investigando a relação entre diversidade e robustez, nossos experimentos com modelos diversos mostram que ter um grande número de parâmetros não implica maior robustez. Nossos experimentos também mostram os efeitos do conjunto de dados de treinamento na robustez do modelo. Usamos datasets variados como ImageNet-1000, CIFAR-100 e CIFAR-10 para avaliar ataques black-box. Considerando as múltiplas dimensões de nossa análise, por exemplo, complexidade do modelo e dataset de treinamento, examinamos o comportamento dos ataques black-box quando os modelos aplicam defesas. Nossos resultados mostram que aplicar estratégias de defesa pode reduzir significativamente a efetividade do ataque. Esta pesquisa fornece uma análise aprofundada e insight sobre a robustez de modelos DL contra diversos ataques e defesas.