هوت فليب: أمثلة هجومية لصندوق أبيض لتصنيف النصوص

نقترح طريقة فعالة لتوليد أمثلة هجومية لصندوق أبيض لخداع مصنف عصبي على مستوى الأحرف. نجد أن القليل من التلاعبات يكفي بشكل كبير لتقليل الدقة. تعتمد طريقتنا على عملية flip ذرية، والتي تعيد ترتيب رمز واحد بآخر، استنادًا إلى تدرجات متجهات الإدخال one-hot. بفضل كفاءة طريقتنا، يمكننا إجراء تدريب هجومي مما يجعل النموذج أكثر قوة ضد الهجمات في وقت الاختبار. باستخدام بعض القيود التي تحافظ على المعنى، نوضح أن هوت فليب يمكن تكييفه لمهاجمة مصنف على مستوى الكلمات كذلك.