تحيز المحتوى الذي يولده الذكاء الاصطناعي: دراسة للأخبار التي تنتجها نماذج اللغة الكبيرة

الملخص: تمتلك نماذج اللغة الكبيرة (LLMs) القدرة على تحويل حياتنا وعملنا من خلال المحتوى الذي تنتجه، والمعروف باسم المحتوى الذي يولده الذكاء الاصطناعي (AIGC). لاستغلال هذا التحول، نحتاج إلى فهم القيود المفروضة على نماذج LLMs. هنا، نستكشف تحيز AIGC الذي تنتجه سبعة نماذج LLM تمثل، بما في ذلك ChatGPT و LLaMA. نحن نجمع مقالات إخبارية من نيويورك تايمز ورويترز، والمعروف عنهما التزامهما بتقديم أخبار غير منحازة. ثم نطبق كل نموذج LLM تم فحصه لتوليد محتوى إخباري باستخدام عناوين هذه المقالات الإخبارية كتحفيز، ونقيم التحيزات الجندرية والعرقية لـ AIGC الذي تم إنتاجه بواسطة LLM من خلال مقارنة AIGC والمقالات الإخبارية الأصلية. نحن نحلل أيضًا التحيز الجندري لكل LLM تحت تحفيزات متحيزة عن طريق إضافة رسائل متحيزة جندريًا إلى التحفيزات المكونة من هذه العناوين الإخبارية. تكشف دراستنا أن AIGC المنتج من قبل كل LLM تم فحصه يظهر تحيزات جندرية وعرقية كبيرة. علاوة على ذلك، يظهر AIGC الذي تم توليده من قبل كل LLM تمييزًا ملحوظًا ضد الإناث والأفراد من العرق الأسود. من بين نماذج LLM، يظهر AIGC الذي تم إنتاجه بواسطة ChatGPT أقل مستوى من التحيز، وChatGPT هو النموذج الوحيد القادر على رفض توليد المحتوى عند تزويده بتحفيزات متحيزة.