एक ही सिक्के के दो पहलू: बैकडोर को हटाने के लिए बैकडोर सीखना

समुदाय ने हाल ही में डेटा विषाक्तता के माध्यम से पेश किए गए न्यूरल बैकडोर के खिलाफ कई प्रशिक्षण-समय बचाव विकसित किए हैं। इस बात के अवलोकन के आलोक में कि एक मॉडल बैकडोर के लिए जिम्मेदार विषाक्त नमूनों को निर्दोष नमूनों की तुलना में अधिक आसानी से सीखता है, ये दृष्टिकोण या तो विभाजन के लिए प्रशिक्षण हानि का एक निश्चित सीमा उपयोग करते हैं या निर्दोष नमूनों की पहचान के लिए एक ऊर्जक के रूप में एक संदर्भ मॉडल को जुटाते हैं। विशेष रूप से, बाद वाला एंटी-बैकडोर शिक्षण के लिए प्रभावी साबित हुआ है। हमारी विधि, हार्वे, एक समान लेकिन महत्वपूर्ण रूप से अलग तकनीक का उपयोग करती है: विषाक्त नमूनों के बजाय निर्दोष नमूनों के लिए एक ऊर्जक को सीखना। बैकडोर संदर्भ मॉडल को सीखना निर्दोष डेटा पर सीखने की तुलना में काफी आसान है। नतीजतन, हम विषाक्त नमूनों की पहचान करने में कहीं अधिक सटीकता के साथ सक्षम हैं। यह महत्वपूर्ण अंतर हमारे मूल्यांकन में हमने जो दिखाया है, उसके अनुसार लगभग सही बैकडोर हटाने की अनुमति देता है। हार्वे विभिन्न हमले के प्रकारों, डेटासेट्स और आर्किटेक्चर में संबंधित दृष्टिकोणों की तुलना में काफी बेहतर प्रदर्शन करता है, हमले की सफलता दर को न्यूनतम स्तर पर कम करता है जबकि प्राकृतिक सटीकता में नगण्य हानि होती है।