Fracasos en el Ciclo: Liderazgo Humano en la Toma de Decisiones Basada en IA

El lado oscuro de la IA ha sido un enfoque persistente en las discusiones de la ciencia popular y la academia (Apéndice A), con algunos afirmando que la IA es "malévola" 1 . Muchos comentaristas presentan argumentos convincentes para sus preocupaciones. Las élites tecnológicas también han contribuido a la polarización de estas discusiones, con ultimátums que indican que en esta nueva era de IA industrializada, los ciudadanos necesitarán "unirse a la IA o arriesgarse a quedar atrás" 2 . Con un lenguaje tan polarizante, los debates sobre la adopción de IA corren el riesgo de ser simplificados en exceso. La discusión sobre la confianza tecnológica frecuentemente adopta un enfoque de todo o nada. Todas las tecnologías –cognitivas, sociales, materiales o digitales– introducen compensaciones cuando son adoptadas, y contienen tanto características 'luminosas como oscuras' 3 . Pero las descripciones de estas características pueden adoptar tonos engañosamente (o involuntariamente) antropomórficos, especialmente cuando las partes interesadas se refieren a estas características como 'agentes' 4 , 5 . Cuando se utiliza como una heurística analógica, esto puede informar el diseño de IA, proporcionar conocimiento para las operaciones de IA y potencialmente incluso predecir sus resultados 6 . Sin embargo, si se acepta la agencia de la IA al pie de la letra, corremos el riesgo de tener expectativas poco realistas sobre las capacidades de estos sistemas.