تمثيلات الصورة التي تم تعلمها من خلال التدريب المسبق غير المشرف تحتوي على تحيزات تشبه الإنسان

تستفيد التطورات الأخيرة في التعلم الآلي من مجموعات بيانات ضخمة من الصور غير المعنونة من الويب لتعلم تمثيلات الصور العامة لمهام مثل تصنيف الصور والتعرف على الوجوه. ولكن هل تتعلم نماذج رؤية الكمبيوتر غير المشرفة تلقائيًا الأنماط الضمنية وتحتوي على تحيزات اجتماعية قد يكون لها آثار ضارة لاحقة؟ نطور طريقة جديدة لت quantifying التحيزات بين تمثيلات المفاهيم الاجتماعية والسمات في الصور. نجد أن النماذج غير المشرفة المتطورة التي تم تدريبها على ImageNet، مجموعة البيانات الشهيرة من الصور التي تم تنسيقها من صور الإنترنت، تتعلم تلقائيًا التحيزات العرقية والجندرية والتقاطع. نعيد توثيق 8 تحيزات بشرية وثقت سابقًا من علم النفس الاجتماعي، من البريء، مثل الحشرات والزهور، إلى الأكثر ضررًا، مثل العرق والجنس. تتطابق نتائجنا عن كثب مع ثلاث فرضيات حول التحيز التقاطعي من علم النفس الاجتماعي. ولأول مرة في رؤية الكمبيوتر غير المشرفة، نقوم أيضًا بت quantifying التحيزات البشرية الضمنية حول الوزن والإعاقات والعديد من الأعراق. عند مقارنتها بأنماط إحصائية في مجموعات بيانات الصور عبر الإنترنت، تشير نتائجنا إلى أن نماذج التعلم الآلي يمكنها تعلم التحيز تلقائيًا من الطريقة التي يتم بها تصوير الناس نمطيًا على الويب.