العدالة الخوارزمية في حماية الأطفال: العدالة الإحصائية، العدالة الاجتماعية وتأثيراتها على الممارسة

تُستخدم الأدوات الخوارزمية بشكل متزايد في اتخاذ قرارات حماية الأطفال. عادةً ما تركز اعتبارات العدالة في الأدوات الخوارزمية على العدالة الإحصائية، ولكن هناك آثار عدلية أوسع تتعلق بالبيانات المستخدمة في بناء قواعد البيانات المصدرية، وكيف يتم دمج الخوارزميات في سياقات اتخاذ القرار الاجتماعية التقنية المعقدة. تستكشف هذه المقالة كيفية إنتاج البيانات التي تُ inform خوارزميات حماية الأطفال وتربط هذا الإنتاج بمفاهيم العدالة التقليدية للعدالة الإحصائية ومفاهيم العدالة الأوسع. تواجه الأدوات التنبؤية عددًا من المشكلات التحدي في سياق حماية الأطفال، حيث إن البيانات التي تعتمد عليها الأدوات التنبؤية لا تمثل حالات إساءة معاملة الأطفال عبر السكان وإساءة معاملة الأطفال نفسها من الصعب تعريفها، مما يجعل القرارات الرئيسية تصبح متغيرة وذات طبيعة ذاتية. تحتوي الخوارزميات التي تستخدم هذه البيانات على حلقات رد فعل مشوهة وقد تحتوي على عدم المساواة والتحيزات. إن التحدي لمفاهيم العدالة هو أن حقوق الأفراد والمجموعات في عدم التمييز تصبح مهددة عندما تصبح الخوارزمية نفسها مشوهة، مما يؤدي إلى توقعات خاطئة للمخاطر بناءً على الارتباطات الزائفة. يُهدد الحق في المعاملة كفرد عندما تستند المخاطر الإحصائية إلى تصنيف جماعي، وتصبح حقوق الأسر في فهم والمشاركة في القرارات المتخذة بشأنهم صعبة عندما لم يوافقوا على ربط البيانات، وتكون وظيفة الخوارزمية غير واضحة بسبب تعقيدها. قد يؤدي استخدام الأدوات الخوارزمية التي يصعب تفسيرها إلى خلق 'مناطق الانهيار الأخلاقي'، حيث يتحمل المهنيون المسؤولية عن القرارات حتى عندما يتم تحديدها جزئيًا بواسطة الخوارزمية. يمكن توجيه العديد من هذه الانتقادات أيضًا إلى صناع القرار البشريين في نظام حماية الأطفال، ولكن تجسيد هذه العمليات داخل الخوارزميات يجعل التعبير عنها أكثر صعوبة، وقد يقلل من الأهداف المهمة الأخرى المتعلقة بالعلاقات والأخلاقيات في ممارسة العمل الاجتماعي.