निरंतर सीखने में प्रतिकूलता की मजबूती बनाए रखना

प्रतिकूलता की मजबूती मशीन लर्निंग प्रणालियों की सुरक्षा और विश्वसनीयता के लिए आवश्यक है। हालाँकि, उन्नत रक्षा एल्गोरिदम द्वारा प्राप्त प्रतिकूलता की मजबूती सरलता से मिट जाती है जब न्यूरल नेटवर्क नई गतिविधियों को सीखने के लिए विकसित होता है। इस भेद्यता को न्यूरल नेटवर्क के लिए एक नए क्षमता को बढ़ावा देकर हल किया जा सकता है, जिसे निरंतर मजबूती से सीखना कहा जाता है, जो निरंतर सीखने के दौरान पिछले कार्यों पर (वर्गीकरण) प्रदर्शन और प्रतिकूलता की मजबूती पर ध्यान केंद्रित करता है। निरंतर मजबूती से सीखने के लिए, हम डबल ग्रेडिएंट प्रोजेक्शन विधि का प्रस्ताव करते हैं, जो वज़न अपडेट के लिए ग्रेडिएंट को दो महत्वपूर्ण उप-क्षेत्रों पर ऊर्ध्वाधर रूप से प्रक्षिप्त करता है - एक सुगम नमूना ग्रेडिएंट को स्थिर करने के लिए और दूसरा न्यूरल नेटवर्क के अंतिम आउटपुट को स्थिर करने के लिए। चार बेंचमार्क पर प्रयोगात्मक परिणाम दर्शाते हैं कि प्रस्तावित विधि प्रभावी रूप से मजबूत प्रतिकूल हमलों के खिलाफ निरंतर मजबूती बनाए रखती है, जो मौजूदा रक्षा रणनीतियों और निरंतर सीखने की विधियों के संयोजन द्वारा निर्मित आधार रेखाओं की तुलना में बेहतर प्रदर्शन करती है।