Mediación Algorítmica en Decisiones de Grupo

¿Cómo perciben los individuos las decisiones algorítmicas frente a las decisiones grupales? Investigamos las percepciones de las personas sobre algoritmos de división justa probados matemáticamente que toman decisiones de división social. En nuestro primer estudio cualitativo, aproximadamente un tercio de los participantes percibió las decisiones algorítmicas como menos justas (30% para uno mismo, 36% para el grupo), a menudo porque las suposiciones algorítmicas sobre los usuarios no tomaron en cuenta múltiples conceptos de justicia o comportamientos sociales, y el proceso de cuantificación de preferencias a través de interfaces era propenso a errores. En nuestro segundo experimento, se percibió que las decisiones algorítmicas eran menos justas que las decisiones basadas en discusión, dependiendo del poder interpersonal de los participantes y del conocimiento en programación de computadoras. Nuestro trabajo sugiere que para que la mediación algorítmica sea justa, los algoritmos y sus interfaces deben considerar comportamientos sociales y altruistas que pueden ser difíciles de definir en términos matemáticos.