विपरीत उदाहरणों के स्थानांतरणीयता को समझना और बढ़ाना

अत्याधुनिक गहरे न्यूरल नेटवर्क विपरीत उदाहरणों के प्रति संवेदनशील माने जाते हैं, जो मूल इनपुट पर छोटे लेकिन दुष्ट विकृति लागू करने से बनाए जाते हैं। इसके अलावा, विकृतियाँ मॉडलों के बीच स्थानांतरित हो सकती हैं: एक विशिष्ट मॉडल के लिए उत्पन्न विपरीत उदाहरण अक्सर अन्य अदृश्य मॉडलों को भटकाते हैं। परिणामस्वरूप, प्रतिकूलता इसे तैनात सिस्टम पर बिना किसी क्वेरी के हमले करने के लिए इस्तेमाल कर सकती है, जो गहरे शिक्षण के अनुप्रयोग को गंभीरता से बाधित करता है, खासकर उन क्षेत्रों में जहां सुरक्षा महत्वपूर्ण है। इस कार्य में, हम व्यवस्थित रूप से अध्ययन करते हैं कि दो श्रेणियाँ के कारक विपरीत उदाहरणों की स्थानांतरणीयता को कैसे प्रभावित कर सकती हैं। एक मॉडल-विशिष्ट कारकों के बारे में है, जिसमें नेटवर्क आर्किटेक्चर, मॉडल क्षमता और परीक्षण सटीकता शामिल हैं। दूसरी प्रतिकारी उदाहरणों का निर्माण करने के लिए हानि फ़ंक्शन की स्थानीय चिकनाई है। इन समझों के आधार पर, स्थानांतरणीयता को बढ़ाने के लिए एक सरल लेकिन प्रभावी रणनीति प्रस्तुत की गई है। हम इसे विविधता-घटी हमले कहते हैं, क्योंकि यह विपरीत उदाहरण उत्पन्न करने के लिए विविधता-घटी ग्रेडिएंट का उपयोग करता है। इसकी प्रभावशीलता दोनों CIFAR-10 और ImageNet डेटा सेट पर विभिन्न प्रयोगों द्वारा पुष्टि की गई है।