Governança Transparente em uma Era Automatizada: Desafios e Soluções na Implantação de IA nas Autoridades Públicas

A integração da inteligência artificial na governança administrativa transformou a tomada de decisões públicas, mas ao mesmo tempo desafiou o princípio fundamental da transparência no direito administrativo. Através de uma análise jurídica comparativa, este artigo examina como os sistemas de tomada de decisão automatizada—particularmente o caso OCI (“Robo-Debt”)—exponham deficiências na imparcialidade processual, explicabilidade e responsabilidade. Identifica a “caixa-preta” algorítmica como uma barreira estrutural à transparência, minando o estado de direito e a confiança dos cidadãos no governo. O estudo argumenta que a incorporação de Inteligência Artificial Explicável (XAI) nos processos administrativos oferece uma solução jurídico-técnica para reconciliar automação com transparência. Ao vincular a governança algorítmica aos princípios existentes de revisão administrativa, a XAI permite a interpretabilidade, justificabilidade e contestabilidade das decisões automatizadas, fortalecendo assim a legitimidade democrática na era da administração algorítmica.