धोखा देने के लिए शिक्षित करना: LLMs को स्व-प्रतिबिंब के लिए कोष्ठक करना ताकि पूर्वाग्रह पहचान और शमन में वृद्धि हो

बड़े भाषा मॉडल (LLMs) जटिल पूर्वाग्रहों और रूढ़ियों को समाहित करते हैं जो हानिकारक उपयोगकर्ता अनुभवों और सामाजिक परिणामों की ओर ले जा सकते हैं, अक्सर मॉडल के अपने किसी भी सचेत जागरूकता के बिना। यह पत्र LLMs को बेहतर स्व-प्रतिबिंब और पूर्वाग्रह पहचान के लिए तंत्र से लैस करने के महत्व पर जोर देता है। हमारे प्रयोग दर्शाते हैं कि जब हम LLMs को सूचित करते हैं कि उनका उत्पन्न सामग्री उनके अपने विचारों का प्रतिनिधित्व नहीं करता है और उनसे पूर्वाग्रह के बारे में सवाल करते हैं, तो उनकी पहचान और समाधान की क्षमता में सुधार होता है। यह वृद्धि LLMs के आंतरिक ध्यान तंत्रों और संभावित आंतरिक संवेदनशीलता नीतियों के कारण है। इन निष्कर्षों पर आधारित, हम LLM आउटपुट में पूर्वाग्रह को कम करने के लिए एक नवीन विधि का सुझाव देते हैं। इसमें LLMs को बहु-भूमिका परिदृश्यों में संलग्न करना शामिल है, जहाँ उन्हें पूर्वाग्रह प्रदर्शन के लिए विभिन्न भूमिकाओं में कार्य करने का कार्य दिया जाता है, जिसमें बहस के प्रत्येक चक्र के अंत में निष्पक्ष मध्यस्थ की भूमिका होती है। पूर्वाग्रह स्तरों को मापने के लिए एक रैंकिंग स्कोरिंग तंत्र का उपयोग किया जाता है, जो अधिक परिष्कृत प्रतिबिंबों और उच्च गुणवत्ता वाले आउटपुट की अनुमति देता है। तुलनात्मक प्रयोगात्मक परिणाम पुष्टि करते हैं कि हमारी विधि पूर्वाग्रह को कम करने के मौजूदा दृष्टिकोणों से बेहतर है, जिससे यह अधिक नैतिक AI सिस्टम के प्रयासों में एक मूल्यवान योगदान बनता है।