Ein Liebesdreieck im Silicon Valley: Einstellalgorithmen, Pseudo-Wissenschaft und die Suche nach Prüfbarkeit

In dieser Perspektive entwickeln wir eine Matrix zur Überprüfung algorithmischer Entscheidungssysteme (ADS), die im Einstellungsbereich verwendet werden. Das Werkzeug ist eine sozial-technische Bewertung von Einstellungs-ADS, die darauf abzielt, die zugrundeliegenden Annahmen sichtbar zu machen, die die Verwendung eines algorithmischen Werkzeugs rechtfertigen, sowie die Arten von Wissen oder Erkenntnissen, die sie zu produzieren behaupten. Diese zugrundeliegenden Annahmen sind entscheidend für die Beurteilung, ob ein ADS "wie beabsichtigt" funktioniert, und ob die Intentionen, mit denen das Werkzeug entworfen wurde, gut begründet sind. Im gesamten Text kontextualisieren wir die Verwendung der Matrix innerhalb gegenwärtiger und vorgeschlagener regulatorischer Regime sowie innerhalb neuer Einstellungspraktiken, die algorithmische Technologien integrieren. Wir schlagen vor, die Matrix zu nutzen, um zugrundeliegende Annahmen aufzudecken, die in pseudo-wissenschaftlichen, essenzialisierten Verständnissen von menschlicher Natur und Fähigkeit verwurzelt sind, und um die entstehenden Prüfstandards und Praktiken kritisch zu untersuchen, die diese Annahmen nicht adressieren.