مؤتمرات المؤتمر الدولي التاسع والعشرون لجمعية الحاسبات حول إدارة المعلومات والمعرفة

تُستخدم نماذج تعلم الآلة على نطاق واسع لاتخاذ قرارات لها تأثير كبير على حياة الإنسان. يتم تدريب هذه النماذج على بيانات تاريخية قد تحتوي على معلومات حول سمات حساسة مثل العرق والجنس والدين، إلخ. قد تؤثر وجود هذه السمات الحساسة بشكل غير عادل على بعض الفئات السكانية. من السهل إزالة الميزات الحساسة من البيانات؛ ومع ذلك، يمكن أن يلتقط النموذج تحيزًا من السمات الحساسة الكامنة التي قد توجد في بيانات التدريب. هذا قد أدى إلى القلق المتزايد بشأن عدالة النماذج المستخدمة. في هذه الورقة، نقترح خوارزمية جديدة يمكن أن تحدد وتعالج بفاعلية الميزات التمييزية الكامنة. النهج غير تابع لخوارزمية التعلم ويتعمم بشكل جيد على مهام التصنيف وكذلك الانحدار. يمكن أيضًا استخدامه كوسيلة رئيسية في إثبات أن النموذج خالٍ من التمييز تجاه الامتثال التنظيمي إذا دعت الحاجة. يساعد هذا النهج في جمع ميزات خالية من التمييز من شأنها تحسين أداء النموذج مع ضمان عدالة النموذج. تظهر النتائج التجريبية من تقييماتنا على مجموعات بيانات حقيقية متاحة علنًا قياس عدالة مثالي تقريبًا مقارنةً بطرق أخرى.