Aproveitando AI Neurosimbólica para Descoberta de Fatias

Enquanto desenvolvimentos recentes notáveis em redes neurais profundas contribuíram significativamente para avançar o estado da arte em visão computacional (CV), vários estudos também mostraram suas limitações e defeitos. Em particular, modelos de CV costumam cometer erros sistemáticos em subconjuntos importantes de dados chamados fatias, que são grupos de dados que compartilham um conjunto de atributos. Um método de descoberta de fatias (SDM) é destinado a detectar fatias semânticas significativas nas quais o modelo apresenta desempenho ruim, chamadas de fatias raras. Propomos um SDM neurosimbólico modular cujo distintivo é a extração, via programação lógica indutiva, de regras lógicas legíveis por humanos que descrevem fatias raras, assim aumentando a explicabilidade dos modelos de CV. Para isso, apresentamos uma metodologia para induzir a ocorrência de fatias raras em um modelo. Validamos a abordagem SDM tanto nos conjuntos de dados sintéticos Super-CLEVR quanto nos conjuntos do mundo real ImageNet. Nossos experimentos demonstram o fluxo de trabalho completo: primeiro, induzimos com sucesso fatias raras direcionadas usando nossa heurística baseada em taxonomia; em segundo lugar, nosso SDM neurosimbólico identifica corretamente essas fatias e produz regras lógicas precisas e legíveis por humanos para descrevê-las; e finalmente, essas regras são usadas para guiar um processo de aumento de dados que conserta o comportamento do modelo e melhora seu desempenho preditivo.