A segurança do aprendizado de máquina

A capacidade do aprendizado de máquina de evoluir rapidamente para situações complexas e em mudança ajudou a torná-lo uma ferramenta fundamental para a segurança computacional. Essa adaptabilidade também é uma vulnerabilidade: atacantes podem explorar sistemas de aprendizado de máquina. Apresentamos uma taxonomia que identifica e analisa ataques contra sistemas de aprendizado de máquina. Mostramos como essas classes influenciam os custos para o atacante e o defensor, e oferecemos uma estrutura formal definindo sua interação. Utilizamos nossa estrutura para revisar e analisar a literatura sobre ataques contra sistemas de aprendizado de máquina. Também ilustramos nossa taxonomia mostrando como ela pode guiar ataques contra o SpamBayes, um popular filtro de spam estatístico. Por fim, discutimos como nossa taxonomia sugere novas linhas de defesa.