Uma Pesquisa sobre Ameaças de Segurança e Técnicas Defensivas de Aprendizado de Máquina: Uma Perspectiva Baseada em Dados

O aprendizado de máquina é uma das técnicas mais prevalentes em ciência da computação, e tem sido amplamente aplicado em processamento de imagem, processamento de linguagem natural, reconhecimento de padrões, cibersegurança e outros campos. Independente das aplicações bem-sucedidas dos algoritmos de aprendizado de máquina em muitos cenários, por exemplo, reconhecimento facial, detecção de malware, direção automática e detecção de intrusões, esses algoritmos e os dados de treinamento correspondentes são vulneráveis a uma variedade de ameaças de segurança, induzindo a uma diminuição significativa no desempenho. Portanto, é vital chamar a atenção para as ameaças de segurança e as técnicas defensivas correspondentes do aprendizado de máquina, o que motiva uma pesquisa abrangente neste artigo. Até agora, pesquisadores da academia e da indústria identificaram muitas ameaças de segurança contra uma variedade de algoritmos de aprendizado, incluindo Bayes ingênuo, regressão logística, árvore de decisão, máquina de vetor de suporte (SVM), análise de componentes principais, agrupamento e redes neurais profundas predominantes. Assim, revisamos as ameaças de segurança existentes e fornecemos uma pesquisa sistemática sobre elas em dois aspectos: a fase de treinamento e a fase de teste/inferência. Em seguida, categorizamos as técnicas defensivas atuais de aprendizado de máquina em quatro grupos: mecanismos de avaliação de segurança, contramedidas na fase de treinamento, aquelas na fase de teste ou inferência, segurança de dados e privacidade. Por fim, fornecemos cinco tendências notáveis na pesquisa sobre ameaças de segurança e técnicas defensivas de aprendizado de máquina, que merecem estudos mais aprofundados no futuro.