Inteligência artificial explicável: Uma pesquisa

Na última década, com a disponibilidade de grandes conjuntos de dados e mais poder computacional, sistemas de aprendizado de máquina alcançaram desempenho (super)humano em uma ampla variedade de tarefas. Exemplos desse rápido desenvolvimento podem ser vistos no reconhecimento de imagens, análise de fala, planejamento estratégico de jogos e muito mais. O problema com muitos modelos de última geração é a falta de transparência e interpretabilidade. A ausência disso é uma grande desvantagem em muitas aplicações, por exemplo, saúde e finanças, onde a justificativa para a decisão do modelo é um requisito para a confiança. À luz dessas questões, a inteligência artificial explicável (XAI) tornou-se uma área de interesse na comunidade de pesquisa. Este artigo resume os desenvolvimentos recentes em XAI no aprendizado supervisionado, inicia uma discussão sobre sua conexão com a inteligência geral artificial e propõe direções para pesquisas futuras.