Mejorando la Equidad en los Sistemas de Aprendizaje Automático

El potencial de los sistemas de aprendizaje automático (ML) para amplificar las inequidades sociales y la injusticia está recibiendo cada vez más atención popular y académica. Un aumento de trabajos recientes se ha centrado en el desarrollo de herramientas algorítmicas para evaluar y mitigar dicha injusticia. Sin embargo, si estas herramientas van a tener un impacto positivo en la práctica industrial, es crucial que su diseño esté informado por un entendimiento de las necesidades del mundo real. A través de 35 entrevistas semiestructuradas y una encuesta anónima a 267 profesionales de ML, realizamos la primera investigación sistemática sobre los desafíos y necesidades de los equipos de productos comerciales para desarrollar sistemas de ML más justos. Identificamos áreas de alineación y desconexión entre los desafíos enfrentados por los equipos en la práctica y las soluciones propuestas en la literatura de investigación de ML justo. Basado en estos hallazgos, destacamos direcciones para futuras investigaciones en ML y HCI que abordarán mejor las necesidades de los profesionales.