प्रेरणा तकनीकों का LLMs की सुरक्षा और उन सिस्टम पर प्रभाव जिनसे वे संबंधित हैं

बड़े भाषा मॉडल ने प्रभावशाली क्षमताएँ प्रदर्शित की हैं। प्रॉम्प्ट इंजीनियरिंग के क्षेत्र में हाल में किए गए शोध ने दिखाया कि उनका आधार प्रदर्शन उनकी पूर्ण क्षमताओं का केवल एक झलक है। सहायक उपकरणों के साथ सुसज्जित और कार्यों को हल करने के उदाहरण प्रदान किए जाने पर, हमारे अनुप्रयोगों में उनका अपनाना तुच्छ लगता है। इस संदर्भ में, हम एक असुविधाजनक प्रश्न पूछते हैं। क्या मॉडल हमारे सिस्टम में अपनाने के लिए पर्याप्त सुरक्षित हैं, या क्या वे ट्रोजन घोड़ों का प्रतिनिधित्व करते हैं? प्रॉम्प्ट इंजेक्शन और जेलब्रेक हमलों का विचार प्रतीत होता है कि अपनाने वालों को ज्यादा परेशान नहीं करता। हालांकि, प्रॉम्प्टिंग तकनीकों के फायदों पर बहुत सारे अध्ययन हैं, लेकिन इनमें से कोई भी सुरक्षा के संबंध में उनके संभावित दोषों का पता नहीं लगाता। हम एक कदम आगे बढ़ना चाहते हैं और बड़े भाषा मॉडलों के इस पहलू पर सबसे सामान्य प्रॉम्प्टिंग तकनीकों का प्रभाव और निहित रूप से उन सिस्टमों की जांच करना चाहते हैं जिनसे वे संबंधित हैं। अब तक की तीन सबसे अधिक तैनात GPT मॉडल का उपयोग करते हुए, हमने विभिन्न सेटअप परिदृश्यों में सबसे लोकप्रिय हमलों में से कुछ का संचालन किया और दिखाया कि प्रॉम्प्टिंग तकनीकों का LLMs की सुरक्षा पर नकारात्मक प्रभाव पड़ सकता है। इससे भी अधिक, वे अन्य प्रणाली घटकों को भी उजागर करते हैं जो अन्यथा कम उजागर होते। अंत में, हम संभावित समाधान सुझाने का प्रयास करते हैं और भविष्य के शोध के दृष्टिकोण प्रस्तुत करते हैं।