هجمات إعادة البناء على التعلم الآلي غير الجماعي: النماذج البسيطة عرضة

يستند التعلم الآلي غير الجماعي إلى الرغبة في استقلالية البيانات: يمكن للشخص أن يطلب إزالة تأثير بياناته من النماذج المعتمدة، وينبغي تحديث هذه النماذج كما لو كانت قد أُعيد تدريبها دون بيانات الشخص. نوضح أنه، بشكل غير بديهي، تعرض هذه التحديثات الأفراد لهجمات إعادة بناء ذات دقة عالية تسمح للمهاجم باستعادة بياناتهم بالكامل، حتى عندما تكون النماذج الأصلية بسيطة لدرجة أن خطر الخصوصية قد لا يكون مصدر قلق. نوضح كيفية تنفيذ هجوم شبه مثالي على نقطة البيانات المحذوفة من نماذج الانحدار الخطي. ثم نعمم هجومنا إلى وظائف خسارة وهياكل أخرى، ونظهر تجريبيًا فعالية هجماتنا عبر مجموعة واسعة من مجموعات البيانات (تغطي البيانات الجدولية والصورية). يبرز عملنا أن خطر الخصوصية كبير حتى بالنسبة لفئات النماذج البسيطة جدًا عندما يمكن للأفراد طلب حذف بياناتهم من النموذج.