Sesgo Algorítmico

Los algoritmos y la toma de decisiones basadas en Big Data se han vuelto omnipresentes en todos los aspectos de nuestra vida diaria (tanto en línea como fuera de línea), ya que se han convertido en herramientas esenciales en finanzas personales, atención médica, contratación, vivienda, educación y políticas. Por lo tanto, es de importancia social y ética preguntarse si estos algoritmos pueden ser discriminatorios por motivos como el género, la etnicidad o el estado de salud. Resulta que la respuesta es afirmativa: por ejemplo, estudios recientes en el contexto de la publicidad en línea muestran que los anuncios para trabajos de altos ingresos se presentan a los hombres con mucha más frecuencia que a las mujeres (Datta et al., 2015); y los anuncios sobre antecedentes penales tienen muchas más probabilidades de aparecer en búsquedas de nombres distintivamente afroamericanos (Sweeney, 2013). Este sesgo algorítmico existe incluso cuando no hay intención de discriminar por parte del desarrollador del algoritmo. A veces puede ser inherente a las fuentes de datos utilizadas (los programas que toman decisiones basadas en datos pueden reflejar, o incluso amplificar, los resultados de la discriminación histórica), pero incluso cuando los atributos sensibles han sido suprimidos de la entrada, un algoritmo de aprendizaje automático bien entrenado aún puede discriminar en función de dichos atributos sensibles debido a las correlaciones existentes en los datos. Estas consideraciones exigen el desarrollo de sistemas de minería de datos que sean conscientes de la discriminación por diseño. Esta es un área de investigación novedosa y desafiante para la comunidad de minería de datos.