Fake oder JPEG? Enthüllung gemeinsamer Vorurteile bei der Erkennung von generierten Bildern Datensätze

Die weitreichende Einführung generativer Bildmodelle hat den dringenden Bedarf aufgezeigt, künstliche Inhalte zu erkennen, was ein entscheidender Schritt im Kampf gegen verbreitete Manipulationen und Fehlinformationen ist. Folglich sind zahlreiche Detektoren und zugehörige Datensätze entstanden. Viele dieser Datensätze führen jedoch unbeabsichtigt unerwünschte Vorurteile ein, was die Wirksamkeit und Bewertung der Detektoren beeinträchtigt. In diesem Papier betonen wir, dass viele Datensätze für die Erkennung von KI-generierten Bildern Vorurteile im Zusammenhang mit JPEG-Kompression und Bildgröße enthalten. Anhand des GenImage-Datensatzes zeigen wir, dass Detektoren tatsächlich von diesen unerwünschten Faktoren lernen. Darüber hinaus zeigen wir, dass die Beseitigung der genannten Vorurteile die Robustheit gegenüber JPEG-Kompression erheblich erhöht und die Leistung der bewerteten Detektoren über verschiedene Generatoren hinweg signifikant verändert. Konkret führt dies zu einem Anstieg von mehr als 11 Prozentpunkten in der Leistung über verschiedene Generatoren für ResNet50- und Swin-T-Detektoren im GenImage-Datensatz und erzielt damit Ergebnisse auf dem neuesten Stand der Technik. Wir stellen den Datensatz und den Quellcode dieses Papiers auf der anonymen Website zur Verfügung: https://www.unbiased-genimage.org