Objetivo A pesquisa sobre inteligência artificial (IA) em organizações tem se concentrado amplamente em riscos éticos e resultados de decisões. Aqui, IA denota sistemas preditivos, de recomendação e generativos embutidos organizacionalmente que fornecem resultados relevantes para a decisão dentro dos fluxos de trabalho. Este artigo muda o foco para as estruturas menos visíveis, mas mais consequentes, que condicionam a tomada de decisão organizacional: programas. O artigo examina como a IA reconfigura programas como pretextos de decisão nas organizações, baseando-se na teoria dos sistemas sociais. Design/metodologia/abordagem O artigo desenvolve uma análise conceitual fundamentada na teoria dos sistemas sociais de Niklas Luhmann. Ele revisita o conceito de programas como pretextos de decisão condicionais e traça como essas estruturas são operacionalizadas através de tecnologias mediadas por IA. Resultados A análise sugere que a IA não substitui a tomada de decisão organizacional. Ela reorganiza os pretextos de decisão que tornam as seleções defensáveis na comunicação. A IA pode traduzir programas condicionais em código executável e modelos adaptativos. Esta tradução pode intensificar o controle programático e também pode realocar a observabilidade. Resultados e indicadores de desempenho podem se tornar mais visíveis, enquanto os pretextos de decisão podem se tornar menos visíveis. Muitas vezes, eles estão em pipelines de treinamento, arquiteturas de modelos e configurações de limiar. Esses pretextos podem ser mais difíceis de tornar comunicáveis e contestáveis (Burrell, 2016; Pasquale, 2015). Inclusão e exclusão então parecem menos como falhas de design e mais como efeitos sistêmicos de como critérios de relevância são estabilizados em programas organizacionais (Introna, 2016; Noble, 2018). Originalidade/valor O artigo contribui para a pesquisa em TI reintroduzindo programas como um conceito analítico central para entender organizações mediadas por IA. Oferece um vocabulário teórico que conecta infraestruturas digitais a questões clássicas de inclusão e controle organizacional. Amplia os debates atuais sobre governança algorítmica além de perspectivas focadas em resultados. Também amplia a teoria dos programas luhmanniana e especifica como a IA transforma pretextos de decisão em artefatos versionados e atualizáveis. Esses artefatos remodelam a memória organizacional ao longo do tempo e também remodelam a comunicabilidade da justificativa.
Kumar et al. (Qui,) estudaram essa questão.