ملاحظة حول مهاجمة كاشفات الأجسام باستخدام ملصقات عدائية

لقد أثبت التعلم العميق أنه أداة قوية للرؤية الحاسوبية وقد شهد اعتماداً واسع النطاق لمهام عديدة. ومع ذلك، فإن خوارزميات التعلم العميق معروفة بأنها عرضة للأمثلة العدائية. يتم إنشاء هذه المدخلات العدائية بحيث، عند تقديمها لخوارزمية تعلم عميق، فإنها من المرجح جداً أن تكون مُصنَّفة بشكل خاطئ. يمكن أن تكون هذه المشكلة مشكلة عندما يُستخدم التعلم العميق للمساعدة في اتخاذ قرارات حرجة على السلامة. أظهرت الأبحاث الأخيرة أنه يمكن مهاجمة المصنفات بواسطة أمثلة عدائية فعلية تحت ظروف فيزيائية مختلفة. بالنظر إلى أن خوارزميات الكشف عن الأجسام الحديثة يصعب خداعها بنفس مجموعة الأمثلة العدائية، نحن نظهر هنا أنه يمكن أيضًا مهاجمة هذه الكاشفات بواسطة أمثلة عدائية فعلية. في هذه الملاحظة، نعرض بإيجاز نتائج الاختبار الثابتة والديناميكية. نحن نصمم خوارزمية تنتج مدخلات عدائية فعلية، والتي يمكن أن تخدع كاشف الأجسام YOLO ويمكن أن تهاجم أيضًا Faster-RCNN بمعدل نجاح مرتفع نسبيًا بناءً على إمكانية النقل. علاوة على ذلك، يمكن لخوارزميتنا ضغط حجم المدخلات العدائية إلى ملصقات، عند لصقها على الكائن المستهدف، تؤدي إلى أن يُصنف الكاشف الكائن بشكل خاطئ أو لا يكتشف الكائن بنسبة عالية من الزمن. توفر هذه الملاحظة مجموعة صغيرة من النتائج. ستحتوي ورقتنا القادمة على تقييم شامل لكاشفات الأجسام الأخرى، وستعرض الخوارزمية.