Agregando conceptos de equidad y precisión en algoritmos de predicción

Un algoritmo que produce predicciones sobre el estado del mundo casi siempre se diseñará con el objetivo implícito o explícito de generar predicciones precisas (es decir, predicciones que probablemente sean ciertas). Además, el auge de algoritmos predictivos cada vez más potentes, impulsado por la reciente revolución en inteligencia artificial, ha llevado a un énfasis en construir algoritmos predictivos que sean justos, en el sentido de que sus predicciones no evidencian sistemáticamente sesgo ni causan daño a ciertos individuos o grupos. Este estado de cosas presenta dos desafíos conceptuales. En primer lugar, los objetivos de precisión y equidad a veces pueden estar en tensión, y no hay pautas normativas obvias para manejar los compromisos entre estos dos deseos cuando surgen. En segundo lugar, existen muchas maneras distintas de medir tanto la precisión como la equidad de un algoritmo predictivo; aquí también, no hay pautas obvias sobre cómo agregar nuestras preferencias por algoritmos predictivos que satisfacen diferentes medidas de equidad y precisión en diversas extensiones. El objetivo de este documento es abordar estos desafíos argumentando que hay buenas razones para utilizar una combinación lineal de métricas de precisión y equidad para medir el valor en general de un algoritmo predictivo para agentes que se preocupan por la precisión y la equidad. Mi argumento depende crucialmente de un resultado clásico en la literatura de agregación de preferencias debido a Harsanyi. Después de hacer este argumento formal, aplico mi resultado a un análisis de los compromisos entre precisión y equidad utilizando el conjunto de datos COMPAS compilado por Angwin et al.