الظلم في أدوات الذكاء الاصطناعي لمكافحة الفساد: السائقون الرئيسيون والنتائج

ملخص يناقش هذا المقال المصادر المحتملة ونتائج الظلم في أدوات الذكاء الاصطناعي (AI) التنبؤية المستخدمة في جهود مكافحة الفساد. باستخدام أمثلة من ثلاثة أدوات لمكافحة الفساد تعتمد على الذكاء الاصطناعي من البرازيل - تقدير المخاطر للسلوك الفاسد في المشتريات العامة، بين المسؤولين الحكوميين، ومرشحات الشوكة الإناث في الانتخابات - يوضح كيف يمكن أن يظهر الظلم على المستويات الهيكلية، والفردية، والمؤسسية. يستند المقال إلى مقابلات مع مسؤولي إنفاذ القانون الذين يشاركون بشكل مباشر في تطوير أدوات مكافحة الفساد، بالإضافة إلى الأدبيات الأكاديمية والأدبيات الرمادية، بما في ذلك التقارير الرسمية وأطروحات تتعلق بالأدوات المستخدمة كمثال. تشمل المصادر المحتملة للظلم البيانات الإشكالية، وقضايا التعلم الإحصائي، والقيم والمعتقدات الشخصية للمطورين والمستخدمين، والحوكمة والممارسات داخل المنظمات التي يتم فيها إنشاء وتوزيع هذه الأدوات. تشير النتائج إلى أن الأدوات التي تم تحليلها تم تدريبها باستخدام مدخلات من إجراءات وممارسات مكافحة الفساد الماضية وبناءً على افتراضات منطقية حول الفساد، والتي ليست بالضرورة خالية من اللامساواة الظالمة والتمييز. عند تصميم أدوات مكافحة الفساد، لم يفكر المطورون في مخاطر الظلم، كما لم يعطوا الأولوية لاستخدام حلول تكنولوجية محددة لتحديد وتخفيف هذا النوع من المشكلة. على الرغم من أن الأدوات التي تم تحليلها لا تتخذ قرارات تلقائية وتدعم فقط العمل البشري، إلا أن خوارزمياتها ليست مفتوحة للتدقيق الخارجي.