XAI-IDS: Rumo à Proposição de uma Estrutura de Inteligência Artificial Explicável para o Aprimoramento de Sistemas de Detecção de Intrusões em Redes

O crescimento exponencial das intrusões em redes exige o desenvolvimento de técnicas avançadas de inteligência artificial (IA) para sistemas de detecção de intrusões (IDSs). No entanto, a dependência da IA para os IDSs apresenta vários desafios, incluindo a variabilidade de desempenho de diferentes modelos de IA e a opacidade de seus processos de tomada de decisão, dificultando a compreensão por analistas de segurança humanos. Em resposta, propomos uma estrutura de IA explicável (XAI) de ponta a ponta, adaptada para aprimorar a interpretabilidade dos modelos de IA em tarefas de detecção de intrusões em redes. Nossa estrutura começa com a avaliação de sete modelos de IA de caixa-preta em três conjuntos de dados de intrusão de rede do mundo real, cada um caracterizado por características e desafios distintos. Subsequentemente, utilizamos vários modelos de XAI para gerar explicações locais e globais, elucidando a lógica subjacente às decisões dos modelos de IA. Além disso, empregamos técnicas de extração de características para discernir características cruciais específicas do modelo e da intrusão, ajudando a entender os fatores discriminatórios que influenciam os resultados da detecção. Adicionalmente, nossa estrutura identifica características sobrepostas e significativas que impactam múltiplos modelos de IA, fornecendo insights sobre padrões comuns entre diferentes abordagens de detecção. Notavelmente, demonstramos que a sobrecarga computacional incorrida pela geração de explicações XAI é mínima para a maioria dos modelos de IA, garantindo aplicabilidade prática em cenários em tempo real. Ao oferecer explicações multifacetadas, nossa estrutura equipa analistas de segurança com insights acionáveis para tomar decisões informadas sobre detecção e mitigação de ameaças. Para facilitar a adoção em larga escala e futuras pesquisas, disponibilizamos nosso código-fonte publicamente, servindo como uma estrutura XAI fundamental para IDSs dentro da comunidade de pesquisa.