Key points are not available for this paper at this time.
تمثل نماذج اللغة العصبية (LMs) حقائق حول العالم كما هو موصوف في النص. أحيانًا تكون هذه الحقائق مستمدة من بيانات التدريب (في معظم نماذج LMs، يمثل تمثيل كلمة "موز" الحقيقة بأن الموز فواكه). وفي بعض الأحيان تستند الحقائق إلى النص المدخل نفسه (يمثل تمثيل الجملة "سكبت الزجاجة" الحقيقة بأن الزجاجة أصبحت فارغة). نصف REMEDI، وهي طريقة لتعلم ربط العبارات باللغة الطبيعية بالتمثيلات الفعلية في نظام التمثيل الداخلي لـ LM. يمكن استخدام تمثيلات REMEDI كمحررات للمعرفة: عند إضافتها إلى التمثيلات المخفية لـ LM، تعدل الجيل اللاحق ليكون متسقًا مع الحقائق الجديدة. يمكن أيضًا استخدام تمثيلات REMEDI كأدوات استكشاف: عند مقارنتها بتمثيلات LM، تكشف أي الخصائص التي تنسبها نماذج LMs بالفعل إلى الكيانات المذكورة، مما يجعل من الممكن في بعض الحالات التنبؤ عندما ستولد نماذج LMs مخرجات تتعارض مع المعرفة الأساسية أو النص المدخل. وبالتالي، تربط REMEDI بين العمل على الاستكشاف، والتوجيه، وتحرير LM، وتقدم خطوات نحو أدوات عامة للفحص الدقيق والتحكم في المعرفة في نماذج LMs.
درس هيرنانديز وآخرون (2023) هذا السؤال.