افتراضات حول قدرة الخوارزميات على التمييز

على الرغم من أن تنفيذها ألهم التفاؤل في العديد من المجالات، إلا أن الخوارزميات يمكن أن تنظّم التمييز وتخفي وجوده. في سبع دراسات، نختبر الفرضية القائلة بأن الناس يميلون إلى افتراض أن الخوارزميات تميّز أقل من البشر بسبب الاعتقادات بأن الخوارزميات تميل إلى أن تكون تقييماً أكثر دقة وأقل عاطفية. ونتيجةً لهذه الافتراضات، يكون الناس أكثر اهتماماً بأن يتم تقييمهم بواسطة خوارزمية عندما يتوقعون أن التمييز ضدهم ممكن. أخيراً، نستكشف الدرجة التي تغير بها المعلومات حول كيفية تدريب الخوارزميات باستخدام مجموعات بيانات تتكون من أحكام وقرارات بشرية تفضيلات الناس المتزايدة للخوارزميات عندما يتوقعون التمييز بأنفسهم. مجتمعةً، تشير هذه الدراسات إلى أن الخوارزميات تبدو أقل تميزاً من البشر، مما يجعل الناس (ربما خطأً) أكثر راحة في استخدامها.