Key points are not available for this paper at this time.
Os governos analisam o potencial da inteligência artificial explicável (XAI) para enfrentar as críticas à opacidade da tomada de decisão algorítmica com IA. Embora a XAI seja atraente como uma solução para decisões automatizadas, a natureza complexa dos desafios que os governos enfrentam complica o uso da XAI. Complexidade significa que os fatos que definem um problema são ambíguos e que não há consenso sobre os critérios normativos para resolver esse problema. Em tal situação, o uso de algoritmos pode resultar em desconfiança. Embora haja muitas pesquisas avançando a tecnologia XAI, o foco deste artigo é nas estratégias para explicabilidade. Três casos ilustrativos são utilizados para mostrar que decisões baseadas em dados e explicáveis muitas vezes não são percebidas como objetivas pelo público. O contexto pode levantar fortes incentivos para contestar e desconfiar da explicação da IA, e, como consequência, encontra-se uma resistência feroz da sociedade. Para superar os problemas inerentes da XAI, são propostas estratégias específicas de decisão para levar à aceitação social das decisões baseadas em IA. Sugerimos estratégias para abraçar decisões e processos explicáveis, co-criar decisões com atores sociais, afastar-se de uma abordagem instrumental para uma institucional, usar algoritmos competidores e sensíveis a valores, e mobilizar o conhecimento tácito de profissionais.
Bruijn et al. (qui,) estudaram essa questão.