IXAII: Uma Interface Interativa de Inteligência Artificial Explicável para Sistemas de Apoio à Decisão

Embora vários métodos post-hoc para IA explicável tenham sido desenvolvidos, a maioria é estática e negligencia a perspectiva do usuário, limitando sua eficácia para o público-alvo. Em resposta, desenvolvemos o sistema inteligente explicável interativo chamado IXAII, que oferece explicações a partir de quatro métodos de IA explicáveis: LIME, SHAP, Anchors e DiCE. Nosso protótipo fornece visualizações personalizadas para cinco grupos de usuários e dá aos usuários controle sobre o conteúdo das explicações e seu formato. Avaliamos o IXAII por meio de entrevistas com especialistas e usuários leigos. Nossos resultados indicam que o IXAII, que fornece diferentes explicações com várias opções de visualização, é percebido como útil para aumentar a transparência. Ao preencher as lacunas entre os métodos de IA explicáveis, interatividade e implementação prática, oferecemos uma nova perspectiva sobre práticas de explicação de IA e interação homem-IA.