कार्य-इंक्रीमेंटल निरंतर अध्ययन में ज्ञान ट्रांसफर को बढ़ाने के लिए कंट्रास्टिव सीखना: पक्ष के भावनात्मक वर्गीकरण कार्यों के लिए

सारांश: निरंतर अध्ययन (CL) का उद्देश्य कार्यों की एक श्रृंखला सीखना है, जिसमें समय के साथ कार्य डेटासेट क्रमिक रूप से उभरते हैं, और बिना पूर्व निर्धारित कार्यों की संख्या के। CL मॉडल दो मुख्य उद्देश्यों को प्राप्त करने का प्रयास करते हैं:catastrophic भुला देना रोकना और कार्यों के बीच ज्ञान ट्रांसफर को सुगम बनाना। catstrophic भुला देना उस प्रदर्शन के तेज़ गिरावट को संदर्भित करता है, जो CL मॉडलों का पहले से सीखे गए कार्यों पर नए कार्यों की सीखने के रूप में होता है। ज्ञान ट्रांसफर, जो पूर्व कार्यों से अधिग्रहीत ज्ञान का लाभ उठाता है, CL मॉडल को नए कार्यों को कुशलता से हल करने में सक्षम बनाता है। हालांकि, अब तक केवल कुछ CL मॉडल ही सफलतापूर्वक उन दो उद्देश्यों को एक साथ हासिल कर पाते हैं। इस पत्र में, हम एक कार्य-इंक्रीमेंटल CL आधारित मॉडल प्रस्तुत करते हैं जो ज्ञान के भुला देने को कम करने के लिए एक पूर्व-प्रशिक्षित भाषा मॉडल (अर्थात, BERT) के साथ इंजेक्टेड CL-प्लगइन्स का लाभ उठाता है। इसके अतिरिक्त, हम अपने मॉडल के प्रदर्शन में सुधार करने के लिए दो कंट्रास्टिव लर्निंग-आधारित हानियों का उपयोग करने का प्रस्ताव रखते हैं, अर्थात् कंट्रास्टिव एनसेंबल डिस्टिलेशन (CED) और वर्तमान कार्य की कंट्रास्टिव सुपरवाइज्ड लर्निंग (CSC) हानियाँ। CED हानि हमारी निरंतर अध्ययन मॉडल की ज्ञान ट्रांसफर क्षमता में सुधार करती है, जबकि CSC हानि वर्तमान अध्ययन कार्य के लिए इसके प्रदर्शन को बढ़ाती है। बेंचमार्क डेटासेट पर प्रयोगात्मक परिणाम दर्शाते हैं कि हमारा प्रस्तावित मॉडल निरंतर पक्ष भावनात्मक वर्गीकरण के लिए कार्य-इंक्रीमेंटल अध्ययन सेटिंग में सभी मौजूदा निरंतर अध्ययन मॉडलों से बेहतर प्रदर्शन करता है। कीवर्ड: निरंतर अध्ययन, कंट्रास्टिव सीखना, पक्ष-भावनात्मक वर्गीकरण।