كشف النماذج الرمزية من التعلم العميق مع تحيزات استقرائية

نطور نهجًا عامًا لاستخلاص التمثيلات الرمزية لنموذج عميق متعلم من خلال تقديم تحيزات استقرائية قوية. نركز على الشبكات العصبية البيانية (GNNs). تعمل التقنية كما يلي: نشجع أولاً التمثيلات الكامنة النادرة عندما نتدرب على GNN في إعداد مشرف، ثم نطبق الانحدار الرمزي على مكونات النموذج المتعلم لاستخراج العلاقات الفيزيائية الصريحة. نجد أن المعادلات المعروفة الصحيحة، بما في ذلك قوانين القوة وهاميلتونيان، يمكن استخراجها من الشبكة العصبية. ثم نطبق طريقتنا على مثال كوني غير تافه - محاكاة مفصلة للمادة المظلمة - ونكتشف صيغة تحليلية جديدة يمكن أن تتنبأ بتركيز المادة المظلمة من توزيع الكتلة للهياكل الكونية القريبة. تعميم التعبيرات الرمزية المستخرجة من GNN باستخدام تقنيتنا كان أفضل على البيانات غير الموجودة في التوزيع مقارنة بالـ GNN نفسه. تقدم نهجنا اتجاهات بديلة لتفسير الشبكات العصبية واكتشاف مبادئ فيزيائية جديدة من التمثيلات التي يتعلمونها.