Zoo

Redes neurais profundas (DNNs) são uma das tecnologias mais proeminentes do nosso tempo, pois alcançam desempenho de ponta em muitas tarefas de aprendizado de máquina, incluindo, mas não se limitando a, classificação de imagens, mineração de texto e processamento de fala. No entanto, pesquisas recentes sobre DNNs indicaram uma preocupação crescente em relação à robustez contra exemplos adversariais, especialmente para tarefas críticas de segurança, como a identificação de sinais de trânsito para direção autônoma. Estudos revelaram a vulnerabilidade de um DNN bem treinado ao demonstrar a capacidade de gerar imagens adversariais quase imperceptíveis (tanto para humanos quanto para máquinas) que levam à classificação incorreta. Além disso, pesquisadores mostraram que essas imagens adversariais são altamente transferíveis simplesmente treinando e atacando um modelo substituto construído sobre o modelo-alvo, conhecido como ataque de caixa-preta a DNNs.