إطار حوكمة للمساءلة والشفافية الخوارزمية

تزداد أنظمة الخوارزميات استخدامًا كجزء من عمليات اتخاذ القرار في كل من القطاعين العام والخاص، مع عواقب محتملة كبيرة على الأفراد والمنظمات والمجتمعات ككل. تشير أنظمة الخوارزميات في هذا السياق إلى مجموعة الخوارزميات والبيانات وعملية الواجهة التي تحدد معًا النتائج التي تؤثر على المستخدمين النهائيين. يمكن اتخاذ العديد من القرارات بشكل أسرع وأكثر كفاءة باستخدام الخوارزميات. يعدّ قدرة هذه الأنظمة على معالجة كميات كبيرة من مجموعات البيانات المتنوعة (أي البيانات الكبيرة) عاملاً مهمًا في اعتماد أنظمة الخوارزميات لاتخاذ القرار، والتي يمكن اقترانها بأساليب التعلم الآلي لاستنتاج النماذج الإحصائية مباشرة من البيانات. ومع ذلك، فإن نفس خصائص النطاق والتعقيد واستنتاج النموذج الذاتي ترتبط بزيادة القلق من أن العديد من هذه الأنظمة غير شفافة للأشخاص المتأثرين باستخدامها وتفتقر إلى تفسيرات واضحة للقرارات التي تتخذها. إن نقص الشفافية هذا يخاطر بتقويض التدقيق والمساءلة الجادين، وهو ما يمثل مصدر قلق كبير عندما يتم تطبيق هذه الأنظمة كجزء من عمليات اتخاذ القرار التي يمكن أن تؤثر بشكل كبير على حقوق الإنسان للناس (مثل القرارات المتعلقة بالسلامة الحرجة في المركبات الذاتية القيادة؛ توزيع موارد الخدمات الصحية والاجتماعية، وما إلى ذلك). تطور هذه الدراسة خيارات سياسية لحوكمة الشفافية والمساءلة الخوارزمية، استنادًا إلى تحليل التحديات الاجتماعية والتقنية والتنظيمية التي تطرحها أنظمة الخوارزميات. استنادًا إلى مراجعة وتحليل الاقتراحات الحالية لحوكمة أنظمة الخوارزميات، تم اقتراح مجموعة من أربعة خيارات سياسية، يتناول كل منها جانبًا مختلفًا من الشفافية والمساءلة الخوارزمية: 1. التوعية: التعليم، ومراقبي الأنشطة، والمبلغين عن المخالفات؛ 2. المساءلة في استخدام القطاع العام لاتخاذ القرارات الخوارزمية؛ 3. الإشراف التنظيمي والمسؤولية القانونية؛ و 4. التنسيق العالمي لحوكمة الخوارزمية.