حقن الضوضاء البارامترية: عشوائية قابلة للتدريب لتحسين متانة الشبكة العصبية العميقة ضد الهجمات الضارة

أظهرت التطورات الأخيرة في مجال التعلم العميق الضعف الأساسي للشبكة العصبية العميقة (DNN) ضد الأمثلة الضارة. في تصنيف الصور، المثال الضار هو صورة معدلة بعناية تكون غير مرئية بصريًا للصورة الأصلية ولكن يمكن أن تتسبب في تصنيف خاطئ لنموذج DNN. تُعتبر تقنية تدريب الشبكة باستخدام الضوضاء الغاوسية تقنية فعالة لإجراء تنظيم النموذج، مما يحسن متانة النموذج ضد تغير المدخلات. استلهامًا من هذه الطريقة التقليدية، نستكشف استخدام خاصية تنظيم حقن الضوضاء لتحسين متانة DNN ضد الهجمات الضارة. في هذا العمل، نقترح حقن الضوضاء البارامترية (PNI) والتي تشمل حقن ضوضاء غاوسية قابلة للتدريب في كل طبقة إما على تنشيط أو أوزان من خلال حل مشكلة تحسين Min-Max، المدمجة مع التدريب الضار. يتم تدريب هذه المعلمات بشكل صريح لتحقيق تحسين في المتانة. تظهر النتائج الشاملة أن تقنية PNI التي اقترحناها تحسن بشكل فعال المتانة ضد مجموعة متنوعة من الهجمات القوية ذات الصندوق الأبيض والصندوق الأسود مثل PGD وC&W وFGSM والهجمات القابلة للنقل وهجمات ZOO. وأخيرًا، يحسن أسلوب PNI كل من دقة البيانات النظيفة والمضطربة، مقارنة بأساليب الدفاع الحديثة، حيث تتفوق على دفاع PGD الحالي غير المنكسر بنسبة 1.1% و6.8% على بيانات الاختبار النظيفة والمضطربة على التوالي، باستخدام بنية ResNet-20.