Verbesserung von scheinbaren Korrelationen in der Datensatzkondensation

Die Datensatzkondensation hat sich als Technik entwickelt, um große Datensätze in kleinere synthetische Gegenstücke zu komprimieren, was nachgelagerte Trainingsaufgaben erleichtert. In diesem Papier untersuchen wir den Einfluss von Bias im ursprünglichen Datensatz auf die Leistung der Datensatzkondensation. Durch eine umfassende empirische Bewertung an kanonischen Datensätzen mit Farb-, Korruptions- und Hintergrundverzerrungen haben wir festgestellt, dass Farb- und Hintergrundverzerrungen im ursprünglichen Datensatz durch den Kondensationsprozess verstärkt werden, was zu einem erheblichen Rückgang der Leistung von Modellen führt, die auf dem kondensierten Datensatz trainiert wurden, während die Korruptionsverzerrung durch den Kondensationsprozess unterdrückt wird. Um die Bias-Verstärkung in der Datensatzkondensation zu reduzieren, führen wir einen einfachen, aber äußerst effektiven Ansatz ein, der auf einem Stichproben-Neugewichtungsschema basierend auf der Kerndichteschätzung beruht. Empirische Ergebnisse zu mehreren realen und synthetischen Datensätzen zeigen die Wirksamkeit der vorgeschlagenen Methode. Besonders bemerkenswert ist, dass wir bei CMNIST mit einem Bias-Konfliktverhältnis von 5 % und IPC 50 eine Testgenauigkeit von 91,5 % erzielen, verglichen mit 23,8 % aus dem herkömmlichen DM, was die Leistung um 67,7 % steigert, während die Anwendung der besten Entbiasierungsmethode auf demselben Datensatz nur eine Genauigkeit von 53,7 % erreicht. Unsere Ergebnisse unterstreichen die Bedeutung der Auseinandersetzung mit Verzerrungen in der Datensatzkondensation und bieten einen vielversprechenden Ansatz zur Bekämpfung der Bias-Verstärkung im Prozess.