La alta precisión no es suficiente: sesgo epistémico en la formulación de tareas de aprendizaje automático

Puntos clave

• La alta precisión en las tareas de aprendizaje automático puede ocultar sesgo epistémico subyacente, afectando la efectividad general.
• Las evidencias muestran que incluso los algoritmos altamente precisos pueden ser engañados por formulaciones de tareas incorrectas, afectando su fiabilidad.
• El análisis observacional centrado en las salidas de los algoritmos en varios contextos indica una variabilidad significativa en el rendimiento.
• La conciencia del sesgo epistémico en el aprendizaje automático podría mejorar el diseño e implementación de algoritmos en el futuro.