Die Folgen des KI-Trainings auf menschliche Entscheidungsfindung

KI ist mittlerweile ein integraler Bestandteil der alltäglichen Entscheidungsfindung und unterstützt uns sowohl bei Routine- als auch bei riskanten Entscheidungen. Diese KI-Modelle lernen oft aus menschlichem Verhalten, wobei davon ausgegangen wird, dass diese Trainingsdaten unvoreingenommen sind. Wir berichten jedoch über fünf Studien, die zeigen, dass Menschen ihr Verhalten ändern, um gewünschte Routinen in KI zu implementieren, was darauf hindeutet, dass diese Annahme ungültig ist. Um diesen Verhaltenswechsel zu zeigen, rekrutierten wir Teilnehmer für das Ultimatumspiel, bei dem sie entscheiden sollten, ob sie Vorschläge zur monetären Aufteilung von anderen menschlichen Teilnehmern oder von KI akzeptieren wollten. Einige Teilnehmer wurden darüber informiert, dass ihre Entscheidungen genutzt würden, um einen KI-Vorschlag aufzutrainieren, während andere diese Information nicht erhielten. In fünf Experimenten fanden wir heraus, dass Menschen ihr Verhalten änderten, um KI dazu zu bringen, faire Vorschläge zu machen, unabhängig davon, ob sie direkt von dem KI-Training profitieren könnten. Nachdem die Teilnehmer diese Aufgabe einmal abgeschlossen hatten, wurden sie eingeladen, diese Aufgabe erneut zu erfüllen, erhielten jedoch die Mitteilung, dass ihre Antworten nicht für das KI-Training verwendet werden würden. Menschen, die zuvor KI trainiert hatten, setzten diesen Verhaltenswechsel fort, was darauf hindeutet, dass die neue Verhaltensroutine zur Gewohnheit geworden war. Diese Arbeit zeigt, dass die Verwendung menschlichen Verhaltens als Trainingsdaten mehr Konsequenzen hat als bisher gedacht, da sie dazu führen kann, dass KI menschliche Vorurteile perpetuiert und Menschen dazu bringt, Gewohnheiten zu bilden, die sich davon abweichen, wie sie normalerweise handeln würden. Daher hebt diese Arbeit ein Problem für KI-Algorithmen hervor, die unvoreingenommene Darstellungen menschlicher Präferenzen lernen wollen.