लीपअटैक: ग्रेडिएंट-आधारित ऑप्टिमाइज़ेशन के माध्यम से टेक्स्ट पर हार्ड-लेबल प्रतिकूल हमला

हार्ड-लेबल सेटिंग में टेक्स्ट प्रतिकूल उदाहरण उत्पन्न करना एक अधिक वास्तविक और चुनौतीपूर्ण ब्लैक-बॉक्स प्रतिकूल हमला समस्या है, जिसकी चुनौती इस तथ्य से आती है कि ग्रेडिएंट को विवर्तित शब्द प्रतिस्थापन से सीधे नहीं निकाला जा सकता। इस प्रकार, इस समस्या के लिए ग्रेडिएंट-आधारित विधियों की प्रभावशीलता अभी सुधार की प्रतीक्षा कर रही है। इस पेपर में, हम 'लीपअटैक' नामक एक ग्रेडिएंट-आधारित ऑप्टिमाइज़ेशन विधि का प्रस्ताव करते हैं, जो हार्ड-लेबल सेटिंग में उच्च-गुणवत्ता वाले टेक्स्ट प्रतिकूल उदाहरण बनाने के लिए है। स्पष्ट करने के लिए, लीपअटैक शब्द एंबेडिंग स्पेस का उपयोग करता है ताकि प्रत्येक विकृत प्रतिस्थापन के दो शब्दों के बीच के अर्थगत विचलन को उनके भिन्नता वेक्टर द्वारा वर्णित किया जा सके। इस अभिव्यक्ति के द्वारा, लीपअटैक धीरे-धीरे विकृति दिशा को अद्यतन करता है और एक आवर्ती राउंड ट्रिप में प्रतिकूल उदाहरणों का निर्माण करता है: पहले, ग्रेडिएंट का अनुमान लगाया जाता है जब यादृच्छिक रूप से नमूने लिए गए शब्द उम्मीदवारों को निर्णय सीमा के निकट वर्तमान प्रतिकूल उदाहरण को स्थानांतरित करने के बाद निरंतर भिन्नता वेक्टरों में परिवर्तित किया जाता है; दूसरे, अनुमानित ग्रेडिएंट को कोसाइन समानता मीट्रिक के आधार पर एक नए प्रतिस्थापन शब्द में वापस मैप किया जाता है। व्यापक प्रयोगात्मक परिणाम दिखाते हैं कि सामान्य मामले में लीपअटैक हार्ड-लेबल सेटिंग में उच्चतम अर्थगत समानता और सबसे कम विकृति दर के साथ उच्च-गुणवत्ता वाले टेक्स्ट प्रतिकूल उदाहरणों को प्रभावी ढंग से उत्पन्न कर सकता है।