What question did this study set out to answer?

Ziel dieser Forschung ist es, die Genauigkeit und Fairness von Rückfallvorhersagealgorithmen im Vergleich zur menschlichen Beurteilung zu bewerten.

synapse

⌘+K

synapse

⌘+K

January 5, 2018Open Access

Die Genauigkeit, Fairness und Grenzen der Vorhersage von Rückfällen

Key Points

Ziel dieser Forschung ist es, die Genauigkeit und Fairness von Rückfallvorhersagealgorithmen im Vergleich zur menschlichen Beurteilung zu bewerten.
Analysierte Vorhersagen aus der COMPAS-Software und verglich sie mit Vorhersagen von Personen mit minimaler Expertise im Strafjustizsystem.
Entwickelte einen einfachen linearen Prädiktor mit nur zwei Merkmalen, um die Genauigkeit mit COMPAS zu vergleichen.
COMPAS zeigte keine verbesserte Genauigkeit oder Fairness im Vergleich zu Vorhersagen von Laien.
Der einfache lineare Prädiktor stellte sich als nahezu äquivalent zu COMPAS heraus, obwohl er nur zwei Merkmale verwendete.

Abstract

Algorithmen zur Vorhersage von Rückfällen werden häufig verwendet, um die Wahrscheinlichkeit eines kriminellen Angeklagten, ein Verbrechen zu begehen, zu bewerten. Diese Vorhersagen werden in präventiven, bedingten Entlassungs- und Strafentscheidungen verwendet. Befürworter dieser Systeme argumentieren, dass Big Data und fortgeschrittenes maschinelles Lernen diese Analysen genauer und weniger voreingenommen als Menschen machen. Wir zeigen jedoch, dass die weit verbreitete kommerzielle Risikobewertungssoftware COMPAS nicht genauer oder fairer ist als Vorhersagen von Personen mit wenig oder keiner Expertise im Strafjustizsystem. Weiterhin zeigen wir, dass ein einfacher linearer Prädiktor, der nur mit zwei Merkmalen ausgestattet ist, nahezu identisch mit COMPAS mit seinen 137 Merkmalen ist.

Bookmark

View Full Paper