ग्रेडियंट ऑप्टिमाइजेशन पर आधारित ब्लैक-बॉक्स बॉउंड्री अटैक

डीप न्यूरल नेटवर्क्स ने कंप्यूटर विज़न में व्यापक अनुप्रयोग प्राप्त किए हैं, और इमेज क्लासिफिकेशन जैसे मौलिक अनुसंधान कार्यों में महत्वपूर्ण सफलता दर्शाई है। हालांकि, प्रतिद्वंद्वी हमलों की उपस्थिति में इन नेटवर्क्स की मजबूती को गंभीर चुनौतियों का सामना करना पड़ता है। वास्तविक विश्व परिदृश्यों में, हार्ड-लेबल हमलों को संबोधित करने के लिए अक्सर दसियों हजार क्वेरीज़ का निष्पादन आवश्यक होता है। इन चुनौतियों से मुकाबला करने के लिए, ग्रेडियंट ऑप्टिमाइजेशन (GOBA) का उपयोग करने वाला ब्लैक-बॉक्स बॉउंड्री अटैक प्रस्तुत किया गया है। यह विधि एक बाइनरी सर्च रणनीति का उपयोग करके महत्वपूर्ण परिवर्तित विरूपण के साथ एक प्रारंभिक प्रतिद्वंद्वी उदाहरण प्राप्त करती है। मोंटे कार्लो एल्गोरिदम का उपयोग नमूने के ग्रेडियंट का अनुमान लगाने के लिए किया जाता है, जिससे अनुमानित ग्रेडियंट और दुर्भावनापूर्ण लेबल की दिशा के साथ पुनरावृत्तिमूलक आंदोलन संभव होता है। इसके अलावा, ग्रेडियंट से सकारात्मक रूप से संबंधित क्वेरी वेक्टर निकाले जाते हैं ताकि इष्टतम पैमाने के साथ एक सैम्पलिंग स्पेस का निर्माण किया जा सके, इस प्रकार मोंटे कार्लो एल्गोरिदम की कार्यक्षमता बढ़ाई जा सके। प्रयोगात्मक मूल्यांकन HSJA, QEBA, और NLBA अटैक विधियों का उपयोग करते हुए क्रमशः ImageNet, CelebA, और MNIST डेटासेट्स पर किया गया। परिणाम बताते हैं कि 3 हजार क्वेरी बार की सीमा के अंतर्गत, GOBA अन्य विधियों की तुलना में औसतन विरूपण (L2 दूरी) को 55.74% तक कम कर सकता है और साथ ही हमले की सफलता दर को औसतन 13.78% तक बढ़ा सकता है।