Key points are not available for this paper at this time.
أدى الاستخدام المتزايد للذكاء الاصطناعي (AI) وخوارزميات التعلم الآلي عبر مجالات متنوعة إلى القلق بشأن انتشار انحياز الخوارزميات، مما قد يزيد من حالات التمييز وعدم المساواة. يظهر انحياز الخوارزميات في تقنيات الذكاء الاصطناعي والتعلم الآلي (ML) في التطبيقات الواقعية نتيجة إما لعدم تنوع البيانات أو عدم توفر زيادة في بيانات تدريب الذكاء الاصطناعي/التعلم الآلي، أو سياسة تعلم معيبة. يؤدي ذلك إلى انتشار انحياز الذكاء الاصطناعي بشكل غير مقصود كمعاملة غير عادلة لمجموعات معينة من الأفراد، بسبب عرقهم أو جنسهم أو أعمارهم، أو سمات مميزة أخرى في التطبيقات العملية. تقدم هذه الورقة تحليلاً شاملاً لانحياز الخوارزميات، يشمل أصوله وآثاره الأخلاقية والاجتماعية، والوسائل المحتملة للتصحيح. علاوة على ذلك، تقدم هذه الورقة منهجية مبتكرة لتحديد وقياس انحياز الخوارزميات تجمع بين التحليل الإحصائي ومدخلات من المستخدمين والمتخصصين في المجال. تفحص هذه الدراسة أشكالًا متميزة من انحيازات الخوارزميات، مثل انحياز الاختيار، وانحياز التأكيد، وانحياز القياس، وتستعرض المحفزات الأساسية لانحياز الخوارزميات، بما في ذلك مخاوف سلامة البيانات، والقرارات المتعلقة بتصميم الخوارزميات، والتحيزات المسبقة المؤسسية. تركز دراستنا على الآثار السلبية لانحياز الخوارزميات، بما في ذلك استمرار عدم المساواة الاجتماعية وعرقلة التقدم الاجتماعي. تسعى الدراسة الحالية إلى المساهمة في تطوير أنظمة ذكاء اصطناعي نزيهة وعادلة قادرة على تعزيز التقدم الاجتماعي benefiting الأفراد عبر فئات ديموغرافية متنوعة من خلال تحديد مصادر وآثار انحياز الخوارزميات والتوصية بتدخلات فعالة.
دStudied Jain et al. (Mon,) هذا السؤال.