Padrões Selvagens Reloaded: Uma Pesquisa sobre a Segurança em Aprendizado de Máquina contra a Contaminação de Dados de Treinamento

O sucesso do aprendizado de máquina é impulsionado pela crescente disponibilidade de poder computacional e grandes conjuntos de dados de treinamento. Os dados de treinamento são usados para aprender novos modelos ou atualizar os existentes, assumindo que são suficientemente representativos dos dados que serão encontrados no momento do teste. Essa suposição é desafiada pela ameaça de contaminação, um ataque que manipula os dados de treinamento para comprometer o desempenho do modelo no momento do teste. Embora a contaminação tenha sido reconhecida como uma ameaça relevante em aplicações industriais, e uma variedade de diferentes ataques e defesas tenha sido proposta até agora, uma sistematização completa e uma revisão crítica do campo ainda estão faltando. Nesta pesquisa, oferecemos uma sistematização abrangente dos ataques e defesas de contaminação em aprendizado de máquina, revisando mais de 100 artigos publicados na área nos últimos 15 anos. Começamos categorizando os modelos de ameaça e ataques atuais e, em seguida, organizamos as defesas existentes de acordo. Embora nos concentremos principalmente em aplicações de visão computacional, argumentamos que nossa sistematização também abrange ataques e defesas de ponta para outras modalidades de dados. Por fim, discutimos recursos existentes para pesquisa em contaminação e lançamos luz sobre as limitações atuais e questões de pesquisa em aberto neste campo de pesquisa.