الهجمات العدائية على نماذج التعلم العميق في معالجة اللغة الطبيعية: استعراض

مع تطور الأجهزة الحاسوبية العالية، اكتسبت الشبكات العصبية العميقة (DNNs) في السنوات الأخيرة شعبية كبيرة في العديد من تطبيقات الذكاء الاصطناعي (AI). ومع ذلك، أظهرت الجهود السابقة أن الشبكات العصبية العميقة كانت عرضة لعينات معدلة استراتيجياً، تُدعى الأمثلة العدائية. تُولد هذه العينات مع بعض الاضطرابات غير الملحوظة ولكن يمكن أن تخدع الشبكات العصبية العميقة لتقديم تنبؤات خاطئة. مستلهمين من شعبية توليد الأمثلة العدائية لصور الشبكات العصبية العميقة، ظهرت جهود بحثية في السنوات الأخيرة لاستهداف الشبكات العصبية العميقة للتطبيقات النصية. ومع ذلك، لا يمكن تطبيق طرق الاضطراب الموجودة للصور بشكل مباشر على النصوص حيث أن البيانات النصية متقطعة. في هذه المقالة، نستعرض الأعمال البحثية التي تتناول هذا الاختلاف وتولد أمثلة عدائية نصية على الشبكات العصبية العميقة. نجمع ونختار ونلخص ونناقش ونحلل هذه الأعمال بشكل شامل ونتناول جميع المعلومات ذات الصلة لجعل المقالة مكتفية ذاتياً. أخيرًا، اعتمادًا على الأدبيات المراجعة، نقدم مناقشات واقتراحات إضافية حول هذا الموضوع.