Keine Berechnung ohne Repräsentation

Das Entstehen und Wachstum der Forschung zu ethischen Fragen der Künstlichen Intelligenz, insbesondere zur algorithmischen Fairness, hat Wurzeln in einer wesentlichen Beobachtung: Strukturierte Ungleichheiten in unserer Gesellschaft spiegeln sich in den Daten wider, die verwendet werden, um prädiktive Modelle zu trainieren, und in der Gestaltung objektiver Funktionen. Während die Forschung, die darauf abzielt, diese Probleme zu mildern, von Natur aus interdisziplinär ist, sind die Gestaltung von unvoreingenommenen Algorithmen und fairen sozio-technischen Systemen wesentliche angestrebte Ergebnisse, die von Fachleuten aus den Bereichen Datenwissenschaft und Informatik abhängen. Diese Computierungsfelder unterliegen jedoch auch im Allgemeinen denselben Unterrepräsentationsproblemen, die in den Datensätzen, die wir analysieren, zu finden sind. Diese Diskrepanz beeinflusst sowohl die Gestaltung der angestrebten Ergebnisse als auch der Metriken, mit denen wir den Erfolg messen. Wenn die ethische KI-Forschungsgemeinschaft dies akzeptiert, unterstützen wir stillschweigend den Status quo und widersprechen den Zielen der Nichtdiskriminierung und Gerechtigkeit, die die Arbeiten zur algorithmischen Fairness, Verantwortlichkeit und Transparenz anstreben.