Extração de Regras em Redes Neurais Profundas Feedforward Treinadas

A explicabilidade é um aspecto chave do aprendizado de máquina, necessário para garantir transparência e confiança nos processos de tomada de decisão. À medida que os modelos de aprendizado de máquina se tornam mais complexos, a integração de abordagens neurais e simbólicas surgiu como uma solução promissora para o problema da explicabilidade. Uma solução eficaz envolve o uso de técnicas de busca para extrair regras de redes neurais profundas treinadas, examinando os valores de peso e viés e calculando sua correlação com as saídas. Este artigo propõe a incorporação da similaridade cosseno nesse processo para restringir o espaço de busca e identificar o caminho crítico que conecta as entradas aos resultados finais. Além disso, sugere-se a integração da lógica de primeira ordem (LPO) para fornecer uma compreensão mais abrangente e interpretável do processo de tomada de decisão. Ao alavancar a similaridade cosseno e a LPO, um algoritmo inovador capaz de extrair e explicar padrões de regras aprendidos por uma rede neural treinada feedforward foi desenvolvido e testado em dois casos de uso, demonstrando sua eficácia em fornecer insights sobre o comportamento do modelo.