Das Fairnessproblem der KI: unrechtmäßige Diskriminierung im Kontext automatisierter Entscheidungsfindung verstehen

Zusammenfassung Der Einsatz von prädiktiven maschinellen Lernalgorithmen ist zunehmend verbreitet, um Entscheidungen sowohl im öffentlichen als auch im privaten Bereich zu leiten oder sogar zu treffen. Ihr Einsatz wird von einigen als potenziell nützliche Methode gepriesen, um diskriminierende Entscheidungen zu vermeiden, da sie angeblich neutral, objektiv sind und auf eine Weise bewertet werden können, wie es bei menschlichen Entscheidungen nicht möglich ist. Durch das (vollständige oder teilweise) Outsourcing eines Entscheidungsprozesses an einen Algorithmus sollte es menschlichen Organisationen ermöglichen, die Parameter der Entscheidung klar zu definieren und im Prinzip menschliche Vorurteile zu beseitigen. Doch in der Praxis kann die Verwendung von Algorithmen immer noch die Quelle unrechtmäßiger diskriminierender Entscheidungen sein, die auf mindestens drei ihrer Merkmale zurückzuführen sind: der Datenberichtsprozess und die Kategorisierungen, auf die sie sich stützen, können menschliche Vorurteile rekonstruieren, ihre Automatisierung und prädiktive Gestaltung können dazu führen, dass sie sich auf unrechtmäßige Verallgemeinerungen stützen, und ihre opake Natur steht im Widerspruch zu demokratischen Anforderungen. Wir heben hervor, dass die beiden letztgenannten Aspekte von Algorithmen und ihre Bedeutung für Diskriminierung in der zeitgenössischen Literatur zu oft übersehen werden. Obwohl diese Probleme nicht unüberwindbar sind, argumentieren wir, dass es notwendig ist, die Bedingungen klar zu definieren, unter denen ein Entscheidungswerkzeug für maschinelles Lernen eingesetzt werden kann. Wir identifizieren und schlagen drei Hauptleitlinien vor, um den Einsatz von maschinellen Lernalgorithmen in der Gesellschaft angemessen zu begrenzen: Algorithmen sollten geprüft werden, um sicherzustellen, dass sie historisch benachteiligte Gruppen nicht unangemessen beeinträchtigen; sie sollten menschliche Entscheidungsprozesse nicht systematisch übergehen oder ersetzen; und die mit einem Algorithmus getroffene Entscheidung sollte stets erklärbar und gerechtfertigt sein.