Los algoritmos para predecir la reincidencia se utilizan comúnmente para evaluar la probabilidad de que un acusado cometa un crimen. Estas predicciones se utilizan en decisiones de libertad bajo fianza, libertad condicional y sentencia. Los defensores de estos sistemas argumentan que los grandes datos y el aprendizaje automático avanzado hacen que estos análisis sean más precisos y menos sesgados que los humanos. Sin embargo, demostramos que el software comercial de evaluación de riesgos COMPAS, ampliamente utilizado, no es más preciso ni justo que las predicciones realizadas por personas con poca o ninguna experiencia en justicia penal. Además, mostramos que un predictor lineal simple provisto solo con dos características es casi equivalente a COMPAS con sus 137 características.
Dressel et al. (Fri,) estudiaron esta cuestión.