استكشاف التحيز الجنسي والتعليقات السامة باستخدام الذكاء الاصطناعي: الاتجاهات والتداعيات

في الوقت الحاضر، تستخدم معظم الأنظمة خوارزميات الذكاء الاصطناعي لأتمتة المهام وتقليل الوقت المطلوب للتنفيذ. علاوة على ذلك، يجب أن تقدر مخاطر التحيز التي يمكن أن تُدخل في النظام. بناءً على هذه الاعتبارات، يمكن وضع تدابير كمية واستراتيجيات أولويات لتلك الحالات غير الكافية، باختيار طريقة مناسبة للتغلب على التحيز الجنسي. في هذه الدراسة، تم تحليل تأثير التحيز الجنسي على درجة مخاطر الراتب السنوي بسبب التحيز الجنسي لتحديده وتخفيفه قدر الإمكان في خوارزميات التعلم الآلي وعلى بيانات نصية مقدمة لمساعد افتراضي. وتجد الدراسة أن التحيز الجنسي يمكن أن يؤثر على قراراتنا من خلال توضيح فرضيات حول كيفية تأثير الخوارزميات على قرارات الأولويات وتعزيز الصور النمطية من خلال تفضيل الرجال على النساء. تشمل التوصيات لتقليل التحيز الجنسي برامج تدريبية للأشخاص الفقراء الذين يواجهون حواجز كبيرة للوصول إلى التعليم؛ وبرامج تدريبية للأشخاص ذوي المستوى التعليمي المنخفض أو الذين لا يمكنهم الوصول؛ والوصول إلى جميع أنواع الوظائف للنساء؛ وضمان التنوع والشمولية؛ وخوارزميات تكون عادلة ومدربة بهدف واضح لتقليل التحيز الجنسي.