Uma Pesquisa sobre Ataques Adversariais na Era da Inteligência Artificial

Com a rápida evolução da Internet, a aplicação dos campos da inteligência artificial é cada vez mais extensa, e a era da IA chegou. Ao mesmo tempo, ataques adversariais no campo da IA também são frequentes. Portanto, a pesquisa sobre a segurança contra ataques adversariais é extremamente urgente. Um número crescente de pesquisadores está trabalhando neste campo. Fornecemos uma revisão abrangente das teorias e métodos que permitem aos pesquisadores ingressar no campo dos ataques adversariais. Este artigo é elaborado de acordo com a linha de pesquisa "Por quê? → O quê? → Como?". Primeiramente, explicamos a importância do ataque adversarial. Em seguida, apresentamos os conceitos, tipos e perigos do ataque adversarial. Finalmente, revisamos os algoritmos de ataque típicos e as técnicas de defesa em cada área de aplicação. Diante do modelo de rede neural cada vez mais complexo, este artigo foca nos campos de imagem, texto e código malicioso, e concentra-se nas classificações e métodos de ataque adversarial desses três tipos de dados, para que os pesquisadores possam rapidamente encontrar seu próprio tipo de estudo. No final desta revisão, também levantamos algumas discussões e questões em aberto e as comparamos com outras revisões semelhantes.