Análise de Segurança da Detecção de Anomalias por Centroide Online

Questões de segurança são cruciais em diversas aplicações de aprendizado de máquina, especialmente em cenários que lidam com atividade humana em vez de fenômenos naturais (por exemplo, classificação de informações, detecção de spam, detecção de malware, etc.). É esperado que, em tais casos, os algoritmos de aprendizado tenham que lidar com dados manipulados destinados a prejudicar a tomada de decisão. Embora alguns trabalhos anteriores abordem o manejo de dados maliciosos no contexto de aprendizado supervisionado, pouco se sabe sobre o comportamento de métodos de detecção de anomalias em tais cenários. Nesta contribuição, analisamos o desempenho de um método específico -- detecção de anomalias por centroide online -- na presença de ruído adversarial. Nossa análise aborda as seguintes questões relacionadas à segurança: formalização dos processos de aprendizado e ataque, derivação de um ataque ótimo, análise de sua eficiência e limitações. Derivamos limites sobre a eficácia de um ataque de envenenamento contra anomalias de centroide sob diferentes condições: porcentagem de tráfego limitada e ilimitada, e taxa de falsos positivos limitada. Nossos limites mostram que, enquanto um ataque de envenenamento pode ser efetivamente realizado no caso não restrito, pode ser tornado arbitrariamente difícil (um limite superior estrito sobre o ganho do atacante) se restrições externas forem devidamente utilizadas. Nossa avaliação experimental, realizada em rastros reais de HTTP e exploração, confirma a precisão de nossos limites teóricos e a praticidade de nossos mecanismos de proteção.