تدريب الشبكات العصبية العميقة المتينة عبر نمط انتشار الضوضاء العدائية

في الممارسة العملية، لوحظ أن الشبكات العصبية العميقة عرضة لأنواع مختلفة من الضوضاء، مثل الأمثلة العدائية والفساد. تم تطوير طرق دفاع عدائي متنوعة لتحسين متانة النماذج العميقة في هذا السياق. ومع ذلك، فإن مجرد التدريب على بيانات مختلطة بأمثلة عدائية، لا يزال معظم هذه النماذج يفشل في الدفاع ضد أنواع الضوضاء العامة. مدفوعًا بحقيقة أن الطبقات المخفية تلعب دورًا مهمًا للغاية في الحفاظ على نموذج متين، تقترح هذه الورقة خوارزمية تدريب بسيطة ولكن قوية، تُدعى انتشار الضوضاء العدائية (ANP)، والتي تضخ الضوضاء في الطبقات المخفية بطريقة طبقية. يمكن تنفيذ ANP بكفاءة من خلال استغلال طبيعة نمط التدريب العكسي للأمام. من خلال تحقيقات شاملة، نحدد أن الطبقات المخفية المختلفة تجعل مساهمات مختلفة في متانة النموذج والدقة النظيفة، بينما تعتبر الطبقات السطحية أكثر أهمية مقارنة بالطبقات العميقة. علاوة على ذلك، يمكن دمج إطار العمل لدينا بسهولة مع طرق تدريب عدائية أخرى لتحسين متانة النموذج من خلال استغلال إمكانيات الطبقات المخفية. تظهر التجارب الواسعة على MNIST وCIFAR-10 وCIFAR-10-C وCIFAR-10-P وImageNet أن ANP يمكّن من تحقيق متانة قوية للنماذج العميقة ضد الأمثلة العدائية والمفسدة، كما يتفوق أيضًا بشكل كبير على طرق الدفاع العدائية المختلفة.