طريقة لتسهيل هجمات استنتاج العضوية في نماذج التعلم العميق

تقدم نظم التعلم الآلي الحديثة عددًا متزايدًا من أطر التعلم الآلي ومستودعات التعليمات البرمجية التي يمكن أن تسهل بشكل كبير تطوير نماذج التعلم الآلي. اليوم، يمكن حتى لحاملي البيانات العاديين الذين ليسوا خبراء في التعلم الآلي استخدام قواعد التعليمات البرمجية المتاحة لبناء نماذج تعلم آلي عالية الأداء على بياناتهم، والعديد منها حساس بطبيعته (على سبيل المثال، السجلات السريرية). في هذا العمل، نعتبر مقدمًا ضارًا للتعلم الآلي يقوم بتزويد حاملي البيانات بكود تدريب النماذج، ولا يحصل على الوصول إلى عملية التدريب، ولديه فقط وصول إلى النماذج الناتجة كصندوق أسود. في هذا الإعداد، نوضح شكلًا جديدًا من هجمات استنتاج العضوية التي تكون أقوى بشكل صارم من الأعمال السابقة. تمكن هجومنا الخصم من إزالة تحديد هوية جميع عينات التدريب بشكل موثوق (متوسط >99% معدل استجابة إيجابية للشرطة لدى 0.1% معدل خطأ إيجابي)، وتظل النماذج المت compromised تحتفظ بأداء تنافسي مثل نظيراتها السليمة (متوسط <1% انخفاض في الدقة). علاوة على ذلك، نظهر أن النماذج المسمومة يمكن أن تخفي بشكل فعال تسرب العضوية المت amplified تحت تدقيق خصوصية العضوية الشائع، والذي لا يمكن الكشف عنه إلا بواسطة مجموعة من العينات السرية المعروفة للخصم. بشكل عام، تشير دراستنا ليس فقط إلى أسوأ حالات تسرب خصوصية العضوية، ولكن أيضًا تكشف عن فخ شائع تحت الطرق الحالية لتدقيق الخصوصية، مما يستدعي جهودًا مستقبلية لإعادة التفكير في الممارسة الحالية لتدقيق خصوصية العضوية في نماذج التعلم الآلي.