الهجوم المبني على الأمثلية لإدخال الطلبات لتمثيل اللغة الكبيرة كقاضي

تمثل تمثيل اللغة الكبيرة كقاضي حلاً جديدًا يمكنه تقييم المعلومات النصية باستخدام نماذج اللغة الكبيرة (LLMs). استنادًا إلى الأبحاث الحالية، تُظهر LLMs أداءً لافتًا في تقديم بديل مثير للاهتمام للتقييم البشري التقليدي. ومع ذلك، لا تزال مقاومة هذه الأنظمة للهجمات باستخدام إدخال الطلبات تساؤلاً مفتوحًا. في هذا العمل، نقدم JudgeDeceiver، وهو هجوم جديد مبني على الأمثلية مصمم خصيصًا لتمثيل اللغة الكبيرة كقاضي. تُشكل طريقتنا هدفًا دقيقًا للأمثلية لمهاجمة عملية صنع القرار لتمثيل اللغة الكبيرة كقاضي وتستخدم خوارزمية أمثلية لأتمتة توليد تسلسلات معادية بشكل فعال، مما يحقق تلاعبًا مستهدفًا وفعالًا في تقييمات النموذج. مقارنة بهجمات الإدخال اليدوي للطلبات، تُظهر طريقتنا كفاءة متفوقة، مما يشكل تحديًا كبيرًا لنظم الأمان الحالية لأنظمة الحكم المعتمدة على تمثيل اللغة الكبيرة. من خلال تجارب موسعة، نُظهر قدرة JudgeDeceiver على تغيير نتائج القرار عبر حالات متعددة، مما يبرز ضعف أنظمة تمثيل اللغة الكبيرة كقاضي ضد هجوم إدخال الطلبات المبني على الأمثلية.