كسر التحيز، بناء الجسور: تقييم وتخفيف التحيزات الاجتماعية في نماذج اللغة الكبيرة عبر فرضية الاتصال

نماذج اللغة الكبيرة (LLMs) تعزز التحيزات الاجتماعية، حيث تعكس الأحكام المسبقة في بيانات تدريبها وتعزز الصور النمطية المجتمعية وعدم المساواة. يستكشف عملنا إمكانية استخدام فرضية الاتصال، وهي مفهوم من علم النفس الاجتماعي لإزالة التحيز من نماذج اللغة الكبيرة. نقوم بمحاكاة أشكال مختلفة من الاتصال الاجتماعي من خلال تحفيز النماذج لقياس تأثيرها على تحيزات النموذج، على غرار كيف يمكن للتفاعلات بين المجموعات أن تقلل من الأحكام المسبقة في السياقات الاجتماعية. أنشأنا مجموعة بيانات مكونة من 108,000 طلب تتبع نهجًا مبنيًا على محاكاة الاتصال الاجتماعي لقياس التحيزات في ثلاثة نماذج (LLaMA 2، Tulu، وNousHermes) عبر 13 بُعدًا للانحياز الاجتماعي. نقترح تقنية فريدة لإزالة التحيز، تسمى إزالة التحيز عبر الاتصال الاجتماعي (SCD)، تقوم بتعليم هذه النماذج الاستجابة للطلبات بدون تحيزات. تثبت أبحاثنا أن ردود نماذج اللغة الكبيرة تظهر تحيزات اجتماعية عند اختبارها بمحفزات الاتصال، والأهم من ذلك، يمكن تقليل هذه التحيزات بشكل كبير بنسبة تصل إلى 40% في عصر واحد من التدريب التعليمي على LLaMA 2 باتباع استراتيجيتنا SCD. الشفرة والبيانات متاحة على https://github.com/chahatraj/breakingbias.