كشف هجمات حقن الاستجابات في أنظمة الذكاء الاصطناعي التوليدية: إطار عمل هجين لشبكات إدارة أمن المعلومات الأحادية (SIEM) وآلية دعم المتجهات الأحادية (One-Class SVM)

تحتل تقنية حقن الاستجابات المرتبة الأولى في قائمة OWASP لأفضل 10 تطبيقات للنماذج اللغوية الكبيرة (LLM)، مما يمكّن الخصوم من تجاوز تعليمات النظام وسرقة معلومات حساسة من خلال صياغة مدخلات تشوش الحدود بين البيانات والتحكم. بينما تقدمت دفاعات طبقة التطبيق مثل PromptShield وPrompt-G، فإنها تعمل في عزلة عن بنية مركز عمليات الأمن المؤسسي (SOC) وتفتقر إلى رؤية على مستوى الجلسة المطلوبة لاكتشاف الحملات المجزأة متعددة الأدوار. تقدم هذه الورقة إطار عمل للكشف الهجين الذي ينظم بوابة Phi-3 Mini Instruct لإصدار بيانات الاتصال الهيكلية، ويربط الأحداث في Elastic SIEM باستخدام أربع قواعد كشف كتبها خبراء، ويعزز تغطية القواعد مع آلة دعم المتجهات الأحادية (OCSVM) التي تم تدريبها حصريًا على 1200 تفاعل غير ضار. تم تقييم الإطار ضد 1100 استجابة (900 خبيثة من CySecBench، 200 غير خبيثة من Stanford Alpaca)، حيث حقق الإطار دقة تبلغ 0.971، واسترجاعًا قدره 0.810، ودرجة F1 تبلغ 0.883، ويقلل معدل نجاح الهجمات (ASR) إلى 19.0% مع متوسط زمن الكشف (MTTD) يبلغ 2.3 ثانية تحت تكوين Phi-3 Mini الذي تم تقييمه. تمثل طبقة OCSVM 162 من 243 إيجابية حقيقية إضافية مقارنة بالأساس، حيث تحدد الهجمات التي تنحرف فيها متجهات الميزات السلوكية عن السطح غير الضار. تم تصميم الإطار حول بيانات الاتصال المتوافقة مع OpenAI، وبالتالي فهو مصمم للتكامل المحايد للموردين؛ ومع ذلك، فإن التحقق الأوسع عبر عائلات النماذج، ونماذج الاستجابة، ومجالات التطبيق ضروري قبل تقديم ادعاءات عامة حول أداء النماذج المتعددة أو فعالية النطاق الإنتاجي.