ट्रांसफार्मर भाषा मॉडलों के प्सूडो-लेबल फ़ाइन-ट्यूनिंग के साथ जीरो-शॉट क्रॉस-भाषायी नफरत भाषण पहचान में सुधार

हाल के वर्षों में नफरत भाषण सोशल मीडिया प्लेटफ़ॉर्म पर बढ़ गया है। जबकि यह कई अध्ययनों का ध्यान केंद्रित रहा है, अधिकांश कामों ने मुख्य रूप से एक ही भाषा, सामान्यतः अंग्रेजी पर ध्यान केंद्रित किया है। कम संसाधित भाषाओं को लेबल वाले संसाधनों की कमी के कारण नजरअंदाज किया गया है। हालाँकि, ये भाषाएँ सोशल मीडिया की बहुभाषी प्रकृति के कारण डेटा का एक महत्वपूर्ण हिस्सा प्रदर्शित करती हैं। यह काम प्सूडो-लेबल फ़ाइन-ट्यूनिंग पर आधारित एक नवीन जीरो-शॉट, क्रॉस-भाषायी ट्रांसफर लर्निंग पाइपलाइन प्रस्तुत करता है, जिसका उपयोग स्वचालित नफरत भाषण पहचान के लिए किया जाता है। हम अपने पाइपलाइन का उपयोग विभिन्न स्वदेशी (स्रोत) और 6 विभिन्न गैर-स्वदेशी (लक्षित) भाषाओं के बेंचमार्क डेटा सेट पर करते हैं, जो 3 विभिन्न लिपियों में लिखी गई हैं। हमारा पाइपलाइन पिछले जीरो-शॉट, क्रॉस-भाषायी मॉडलों की तुलना में 7.6% (मैक्रो-F1 के संदर्भ में) औसत सुधार प्राप्त करता है। यह कम संसाधित भाषाओं के लिए उच्च सटीकता वाली स्वचालित नफरत भाषण पहचान की संभाव्यता को प्रदर्शित करता है। हम अपना कोड और मॉडल https://github.com/harisbinzia/ZeroshotCrosslingualHateSpeech पर जारी करते हैं।