Introduzindo Explicações Contrafactuais Baseadas em Feedback do Usuário (UFCE)

Modelos de aprendizado de máquina são amplamente utilizados em aplicações do mundo real. No entanto, sua complexidade torna frequentemente desafiador interpretar a razão por trás de suas decisões. Explicações contrafactuais (CEs) emergiram como uma solução viável para gerar explicações compreensíveis em Inteligência Artificial Explicável (XAI). CE fornece informações acionáveis aos usuários sobre como alcançar o resultado desejado com modificações mínimas na entrada. No entanto, os algoritmos CE atuais geralmente operam em todo o espaço de características ao otimizar mudanças para reverter um resultado indesejado, negligenciando a identificação de contribuintes-chave para o resultado e desconsiderando a praticidade das mudanças sugeridas. Neste estudo, introduzimos uma nova metodologia, chamada de explicação contrafactual baseada em feedback do usuário (UFCE), que aborda essas limitações e visa aumentar a confiança nas explicações fornecidas. UFCE permite a inclusão de restrições do usuário para determinar as menores modificações no subconjunto de características acionáveis, considerando a dependência das características, e avalia a praticidade das mudanças sugeridas usando métricas de avaliação de referência. Realizamos três experimentos com cinco conjuntos de dados, demonstrando que UFCE supera dois métodos CE bem conhecidos em termos de proximidade, esparsidade e viabilidade. Os resultados relatados indicam que as restrições do usuário influenciam a geração de CEs viáveis.