إطار دفاع مزدوج مرن وقوي ضد هجمات تسميم البيانات في أنظمة التوصية

أنظمة التوصية المعتمدة على التعلم العميق عرضة للغاية لهجمات تسميم البيانات، حيث يقوم الخصوم بالتلاعب بتفاعلات المستخدمين لتقليص نزاهة النموذج. نفترض أن دمج خسارة نشطة قوية مع كشف قائم على الشبكات الخصمانية (GAN) سيقلل بشكل كبير من تأثير التسميم في أنظمة التوصية دون التضحية بالمنفعة. نقترح إطار دفاع مزدوج مرن وقوي: الدفاع النشط يدمج دالة خسارة مُعدة للتخفيف من آثار التسميم مع الحفاظ على أداء النموذج. الدفاع السلبي يستخدم نموذج كشف قائم على الشبكة الخصمانية (GAN) لتحديد وتصنيف البيانات المسممة، مما يعزز دقة الكشف وأمان النظام. يدعم الإطار نموذج تحليل المصفوفات (MF) التقليدي وخطوط الأنابيب المعتمدة على نماذج اللغة الكبيرة (LLM) ويتكيف مع مجموعات البيانات الكبيرة. تظهر تجارب موسعة عبر مجموعات بيانات حقيقية متعددة بمعدلات تسميم مختلفة أن طريقتنا تتفوق على الدفاعات التمثيلية، مما يقلل باستمرار من نجاح الهجمات دون التضحية بجودة التوصيات. كما أن الإطار يسمح بإنشاء مخصص في بيئات التعلم الفدرالي، حيث تجري التدريبات القوية وكشف GAN على العملاء ويتم تجميع ملخصات تحافظ على الخصوصية فقط. الطريقة المقترحة تحسن بشكل كبير من قوة ومرونة أنظمة التوصية تحت هجمات تسميم البيانات.