Administração por algoritmo: Um framework de gestão de riscos

A tomada de decisão algorítmica não é um fenômeno recente nem necessariamente associado à inteligência artificial (IA), embora os avanços em IA estejam cada vez mais resultando em decisões que antes eram humanas sendo substituídas, ou tornando-se dependentes, de algoritmos e tecnologias como o aprendizado de máquina. Esses desenvolvimentos prometem muitos benefícios potenciais, mas não estão isentos de certos riscos. Esses riscos nem sempre são bem compreendidos. Não se trata apenas de máquinas cometendo erros; é a incorporação de valores, preconceitos e preconceitos no software que pode discriminar tanto indivíduos quanto grupos na sociedade. Esses preconceitos muitas vezes são difíceis de detectar ou provar, particularmente onde há problemas de transparência e responsabilidade e onde tais sistemas são terceirizados para o setor privado. Consequentemente, ser capaz de detectar e categorizar esses riscos é essencial para desenvolver uma resposta sistemática e calibrada. Este artigo propõe uma taxonomia simples dos algoritmos de tomada de decisão no setor público e utiliza isso para construir um framework de gestão de riscos com vários componentes, incluindo uma estrutura de responsabilidade e governança regulatória. Este framework é projetado para auxiliar acadêmicos e profissionais interessados em garantir a responsabilização estruturada e a regulação legal da IA na esfera pública.