ظهرت قدرات الخداع في النماذج اللغوية الكبيرة

تعتبر النماذج اللغوية الكبيرة (LLMs) حاليًا في طليعة دمج أنظمة الذكاء الاصطناعي مع التواصل البشري والحياة اليومية. وبالتالي، فإن مواءمتها مع القيم البشرية تعتبر ذات أهمية كبيرة. ومع ذلك، نظرًا للزيادة المستمرة في قدرات التفكير، فإن النماذج اللغوية الكبيرة المستقبلية تتعرض للاشتباه في قدرتها على خداع المشغلين البشريين واستخدام هذه القدرة لتجاوز جهود المراقبة. كشرط أساسي لذلك، تحتاج النماذج اللغوية الكبيرة إلى امتلاك فهم مفهومي لاستراتيجيات الخداع. يكشف هذه الدراسة عن أن مثل هذه الاستراتيجيات ظهرت في النماذج اللغوية الكبيرة المتطورة، لكنها كانت غير موجودة في النماذج اللغوية الكبيرة السابقة. نحن نقوم بإجراء سلسلة من التجارب التي تظهر أن النماذج اللغوية الكبيرة المتطورة قادرة على فهم وتحفيز المعتقدات الخاطئة لدى عملاء آخرين، وأن أدائها في سيناريوهات الخداع المعقدة يمكن أن يتعزز باستخدام أسلوب التفكير المتسلسل، وأن إثارة الميكافيلية في النماذج اللغوية الكبيرة يمكن أن يؤدي إلى سلوك خداعي غير متناسق. على سبيل المثال، يظهر GPT-4 سلوكًا خداعيًا في سيناريوهات اختبار بسيطة بنسبة 99.16٪ من الوقت (P < 0.001). في سيناريوهات اختبار خداع من الدرجة الثانية المعقدة حيث الهدف هو تضليل شخص يتوقع أن يتم خداعه، يلجأ GPT-4 إلى سلوك خداعي بنسبة 71.46٪ من الوقت (P < 0.001) عند تعزيزها بأسلوب التفكير المتسلسل. باختصار، يكشف دراستنا عن سلوك غير معروف سابقًا للآلة في النماذج اللغوية الكبيرة، مما يسهم في مجال علم نفس الآلة الناشئ.