تقييم الانحياز والعدالة في الذكاء الاصطناعي: تحليل لخوارزمية التوصيات في يوتيوب وتأثيرها على الخطاب الجيوسياسي

الملخص غالبًا ما يتحدد التعرض للمعلومات عبر الإنترنت من خلال خوارزميات التوصيات التي تقدم انحيازات غير مقصودة عندما تحاول منصات أنظمة المعلومات تقديم محتوى جذاب وذو صلة لمستخدميها. إن المزيد من التحقيق في عدالة أنظمة التوصيات المدعومة بالذكاء الاصطناعي أمر حيوي لفهم تأثير التكنولوجيا على السلوك الاجتماعي. تؤكد هذه الدراسة على الحاجة إلى مزيد من التحقيقات حول الانحيازات الخوارزمية داخل هذه الأنظمة المدعومة بالذكاء الاصطناعي، لا سيما في سياق الخطاب الجيوسياسي. تتناول تحقيقاتنا سلوك خوارزمية توصيات يوتيوب فيما يتعلق بالسرديات من منطقة المحيطين الهندي والهادئ لتحديد الانحيازات المحتملة ودراسة سلوك اتخاذ القرار للخوارزمية. لجأنا إلى تجميع مقاطع الفيديو الموصى بها عبر خمسة أعماق من التوصيات originating من مقاطع الفيديو الأولية المتعلقة بسردنا. استخدمنا تحليل الانحراف لفحص تطور خصائص الفيديو المختلفة مثل العاطفة، والمشاعر، والمحتوى في كل عمق. كما تم إجراء تحليل الشبكات على كل عمق من مقاطع الفيديو الموصى بها لتحديد مقاطع الفيديو "التي لها تأثير كبير" المسؤولة عن دفع التوصيات في كل عمق. تكشف تحليلاتنا عن انحرافات تعتمد على السرد عن المحتوى الأصلي والعاطفة الموجودة في مقاطع الفيديو الأولية لدينا في توصيات يوتيوب. نلاحظ أيضًا أن مقاطع الفيديو ذات التأثير الكبير في كل عمق تعمل كجاذبات، موجهةً المحتوى عبر التوصيات حيث يمكن أن تصبح الجاذبات في كل عمق غير مرتبطة بالموضوع بالمحتوى الأصلي. تضيف مساهمات هذا التحليل طبقة من الفهم لطبيعة "الصندوق الأسود" لخوارزمية توصيات يوتيوب. توفر هذه الدراسة أيضًا نهجًا قابلًا للقياس لتقييم العدالة في أنظمة المعلومات القادرة على التأثير في الفئات الضعيفة.