Governança Transparente em uma Era Automatizada: Desafios e Soluções na Implementação de IA em Autoridades Públicas

A integração da inteligência artificial na governança administrativa transformou a tomada de decisões públicas, mas simultaneamente desafiou o princípio fundamental da transparência no direito administrativo. Por meio de uma análise jurídica comparativa, este artigo examina como os sistemas de tomada de decisão automatizados—particularmente o caso OCI (“Robo-Debt”)—exponham deficiências na equidade processual, explicabilidade e responsabilidade. Identifica a "caixa-preta" algorítmica como uma barreira estrutural à transparência, minando o Estado de direito e a confiança dos cidadãos no governo. O estudo argumenta que a incorporação da Inteligência Artificial Explicável (XAI) dentro dos processos administrativos oferece uma solução jurídico-técnica para reconciliar automação com transparência. Ao vincular a governança algorítmica aos princípios existentes de revisão administrativa, a XAI possibilita a interpretabilidade, justificabilidade e contestabilidade das decisões automatizadas, fortalecendo assim a legitimidade democrática na era da administração algorítmica.