Decisões Humanas e Previsões de Máquinas

Examinamos como o aprendizado de máquina pode ser usado para melhorar e entender a tomada de decisões humanas. Em particular, focamos em uma decisão que tem importantes consequências políticas. Milhões de vezes a cada ano, juízes devem decidir onde os réus aguardarão o julgamento - em casa ou na prisão. Por lei, essa decisão depende da previsão do juiz sobre o que o réu faria se fosse solto. Esta é uma aplicação promissora de aprendizado de máquina porque é uma tarefa de previsão concreta para a qual há um grande volume de dados disponíveis. No entanto, comparar o algoritmo ao juiz se revela complicado. Primeiro, os dados são gerados pelas decisões anteriores dos juízes. Nós apenas observamos resultados de crimes para réus liberados, não para aqueles que foram detidos. Isso torna difícil avaliar regras de decisão contrafatuais baseadas em previsões algorítmicas. Em segundo lugar, os juízes podem ter um conjunto mais amplo de preferências do que a única variável em que o algoritmo se concentra; por exemplo, os juízes podem se preocupar com desigualdades raciais ou com crimes específicos (como crimes violentos) em vez de apenas com o risco geral de criminalidade. Lidamos com esses problemas usando diferentes estratégias econométricas, como alocação quase aleatória de casos para juízes. Mesmo levando em conta essas preocupações, nossos resultados sugerem ganhos potenciais de bem-estar grandes: uma simulação de política mostra que a criminalidade pode ser reduzida em até 24,8% sem mudança nas taxas de encarceramento, ou as populações carcerárias podem ser reduzidas em 42,0% sem aumento nas taxas de criminalidade. Além disso, observamos reduções em todas as categorias de crimes, incluindo os violentos. Importante, tais ganhos podem ser obtidos enquanto se reduz significativamente a porcentagem de afro-americanos e hispânicos na prisão. Encontramos resultados similares em um conjunto de dados nacional também. Além disso, ao focar o algoritmo em prever as decisões dos juízes, em vez do comportamento dos réus, ganhamos algum insight sobre a tomada de decisões: um problema chave parece ser que os juízes respondem ao 'ruído' como se fosse sinal. Esses resultados sugerem que, enquanto o aprendizado de máquina pode ser valioso, a realização desse valor requer a integração dessas ferramentas em um framework econômico: ser claro sobre a ligação entre previsões e decisões; especificar o escopo das funções de pagamento; e construir contrafatuais de decisão não tendenciosos.