KI-Technologien werden schnell in die Gesellschaft integriert, bieten zahlreiche Vorteile, werfen jedoch auch erhebliche ethische und soziale Bedenken auf. Während einige KI-Systeme darauf abzielen, Effizienz und Entscheidungsfindung zu verbessern, können sie auch schädliche Auswirkungen auf Einzelpersonen und die Gesellschaft haben. Diese Studie untersucht sowohl die unmittelbaren als auch die systemischen negativen Effekte von KI-Systemen sowie die zugrunde liegenden Faktoren, die zu diesen Problemen beitragen könnten. Anhand einer multivokalen Literaturübersicht analysieren wir 28 KI-Systeme und ihre damit verbundenen Auswirkungen, einschließlich Diskriminierung, psychologischer und physischer Schäden sowie unfairer Behandlung. Wir identifizieren Schlüsselfaktoren, die dazu geführt haben könnten, dass KI-Systeme auf diese Weise operieren, und erklären, warum diese Auswirkungen auftreten können. Darüber hinaus schlagen wir erste konkrete Maßnahmen vor, um diese negativen Effekte zu mildern und die Entwicklung von KI-Systemen zu fördern, die mit ethischen und sozialen Nachhaltigkeitsprinzipien in Einklang stehen. Durch das Aufzeigen dieser Probleme möchten wir das Bewusstsein unter Forschern und Entwicklern schärfen und die Annahme verantwortungsbewusster, inklusiver sowie konkreter KI-Richtlinien fördern. • Angepasste systematische Mapping-Studie, die 28 KI-Systeme und die damit verbundenen Auswirkungen analysiert. • Beinhaltet Diskriminierung, psychologische und physische Schäden sowie unfaire Behandlung. • Wir identifizieren Schlüsselfaktoren, die dazu geführt haben könnten, dass KI-Systeme auf diese Weise operieren. • Wir bieten eine Erklärung dafür, warum diese Auswirkungen auftreten können. • Wir schlagen erste konkrete Maßnahmen vor, um diese negativen Effekte zu mildern.
Ahmad et al. (Sat,) haben diese Frage untersucht.