تحليل أمان الكشف عن الشذوذ باستخدام المركز المتصل بالإنترنت

تعتبر قضايا الأمان حاسمة في عدد من تطبيقات تعلم الآلة، وخاصة في السيناريوهات التي تتعامل مع النشاط البشري بدلاً من الظواهر الطبيعية (مثل تصنيف المعلومات، اكتشاف البريد المزعج، اكتشاف البرمجيات الخبيثة، وغيرها). من المتوقع في مثل هذه الحالات أن يواجه خوارزميات التعلم بيانات مُعَدَّلة تهدف إلى إعاقة اتخاذ القرارات. على الرغم من أن بعض الأعمال السابقة تناولت التعامل مع البيانات الخبيثة في سياق التعلم المُعَلم، إلا أن القليل جداً معروف عن سلوك طرق الكشف عن الشذوذ في مثل هذه السيناريوهات. في هذا العمل، نقوم بتحليل أداء طريقة معينة - الكشف عن الشذوذ باستخدام المركز المتصل بالإنترنت - في ظل وجود ضجيج عدائي. تتناول تحليلاتنا المسائل المتعلقة بالأمان التالية: صياغة عمليات التعلم والهجوم، استنباط هجوم مثالي، تحليل كفاءته وقيوده. نستنتج حدوداً على فاعلية هجوم التسمم ضد الشذوذ المركزي تحت ظروف مختلفة: نسبة مرجحة وغير مرجحة من المرور، ونسبة إيجابية كاذبة محدودة. تظهر حدودنا أنه بينما يمكن تنفيذ هجوم التسمم بشكل فعال في الحالة غير المقيدة، فإنه يمكن أن يصبح صعباً بشكل تعسفي (حد أعلى صارم على مكاسب المهاجم) إذا تم استخدام القيود الخارجية بشكل صحيح. تؤكد تقييماتنا التجريبية التي أجريت على مسارات HTTP الحقيقية ومقاييس الاستغلال ضيق حدودنا النظرية وفعالية آليات الحماية لدينا.