सिफारिश प्रणाली में जहर देने वाले हमले और सुरक्षा: एक सर्वेक्षण

आधुनिक सिफारिश प्रणाली (RS) ने डिजिटल प्लेटफार्मों पर उपयोगकर्ता अनुभव को गहराई से बढ़ाया है, फिर भी उन्हें जहर देने वाले हमलों से महत्वपूर्ण खतरों का सामना करना पड़ता है। ये हमले, जो अनैतिक लाभ के लिए सिफारिश आउटपुट को हेरफेर करने के उद्देश्य से होते हैं, RS में कमजोरियों का लाभ उठाते हुए दुर्भावनापूर्ण डेटा को इंजेक्ट करते हैं या मॉडल प्रशिक्षण में हस्तक्षेप करते हैं। यह सर्वेक्षण हमलावर के दृष्टिकोण से इन खतरों की जांच करके एक अद्वितीय दृष्टिकोण प्रस्तुत करता है, उनके तंत्र और प्रभावों के बारे में नए दृष्टिकोण प्रदान करता है। ठोस रूप से, हम एक व्यवस्थित पाइपलाइन की व्याख्या करते हैं जो जहर देने वाले हमले के चार चरणों को शामिल करती है: हमले के लक्ष्यों को निर्धारित करना, हमलावर की क्षमताओं का आकलन करना, पीड़ित की आर्किटेक्चर का विश्लेषण करना, और जहर देने की रणनीतियों को लागू करना। यह पाइपलाइन न केवल विभिन्न हमला तकनीकों के साथ मेल खाती है, बल्कि विशिष्ट जहर देने वाले हमलों के फोकस को पहचानने के लिए एक व्यापक वर्गीकरण के रूप में भी काम करती है। इसके अनुरूप, हम रक्षा रणनीतियों को दो मुख्य श्रेणियों में और वर्गीकृत करते हैं: जहर देने वाले डेटा फ़िल्टरिंग और रक्षक के दृष्टिकोण से मजबूत प्रशिक्षण। अंततः, हम मौजूदा सीमाओं को उजागर करते हैं और इस क्षेत्र में आगे खोज के लिए नवाचारी दिशाओं का सुझाव देते हैं।