Toma de Decisiones Algorítmica en la Administración Pública

En este documento, propongo un estudio sobre la toma de decisiones algorítmica en la administración pública desde una perspectiva de trabajo cooperativo apoyado por computadora (CSCW). Cada día, la administración pública toma miles de decisiones con consecuencias para el bienestar de sus ciudadanos. Un número creciente de dichas decisiones está respaldado o es tomado por sistemas de toma de decisiones algorítmica (ADM), sin embargo, en el ámbito científico y público hay una creciente preocupación de que estos algoritmos se conviertan en una 'caja negra' que puede contener sesgos ocultos (Olsen et al., 2019), obstáculos para la discreción humana (Rason, 2017), baja transparencia (Alkhatib y Bernstein, 2019) o confianza (Mittelstadt et al. 2016). Por ejemplo, ADM se está probando actualmente en la administración pública en la colocación laboral para la predicción del riesgo de desempleo a largo plazo de un ciudadano. Siguiendo investigaciones previas que cuestionan la utilidad de la metáfora de la caja negra, mi interés es entender cómo los trabajadores sociales y los ciudadanos comprenden ADM, como base para el diseño de tecnologías CSCW que empleen ADM.