Sesgo Algorítmico en la Educación

En este artículo, revisamos el sesgo algorítmico en la educación, discutiendo las causas de ese sesgo y revisando la literatura empírica sobre las formas específicas en que se ha manifestado el sesgo algorítmico en la educación. Mientras que otros trabajos recientes han revisado definiciones matemáticas de equidad y han ampliado enfoques algorítmicos para reducir el sesgo, nuestra revisión se enfoca en solidificar la comprensión actual de los impactos concretos del sesgo algorítmico en la educación—qué grupos se sabe que están impactados y qué etapas y agentes en el desarrollo y despliegue de algoritmos educativos están implicados. Discutimos perspectivas teóricas y formales sobre el sesgo algorítmico, conectamos esas perspectivas al proceso de aprendizaje automático y revisamos métricas para evaluar el sesgo. A continuación, revisamos la evidencia alrededor del sesgo algorítmico en la educación, comenzando con las categorías más estudiadas de raza/etnicidad, género y nacionalidad, y pasando a la evidencia disponible de sesgo para categorías menos estudiadas, como estatus socioeconómico, discapacidad y estatus de conexión militar. Reconociendo las lagunas en lo que se ha estudiado, proponemos un marco para pasar de sesgo desconocido a sesgo conocido y de equidad a justicia. Discutimos los obstáculos para abordar estos desafíos y proponemos cuatro áreas de esfuerzo para mitigar y resolver los problemas del sesgo algorítmico en los sistemas AIED y otras tecnologías educativas.