رؤى نظرية للإرشاد في الانتشار: دراسة حالة لنماذج المزيج الغاوسي

تستفيد نماذج الانتشار من إدخال معلومات محددة بالمهام في دالة التقييم لتوجيه توليد العينات نحو الخصائص المرغوبة. تُسمى هذه المعلومات بالإرشاد. على سبيل المثال، في توليد الصور من النصوص، يتم ترميز الإدخال النصي كإرشاد لتوليد صور متماشية دلالياً. ترتبط مدخلات الإرشاد المناسبة ارتباطًا وثيقًا بأداء نماذج الانتشار. من الملاحظ أن الإرشاد القوي يعزز التوافق الوثيق مع المعلومات المحددة بالمهام، بينما يقلل من تنوع العينات المُنتجة. في هذه الورقة، نقدم أول دراسة نظرية لفهم تأثير الإرشاد على نماذج الانتشار في سياق نماذج المزيج الغاوسي. تحت شروط بسيطة، نثبت أن دمج الإرشاد في الانتشار لا يعزز فقط ثقة التصنيف ولكن أيضًا يقلل من تنوع التوزيع، مما يؤدي إلى تقليل الانتروبيا التفاضلية لتوزيع المخرجات. تغطي تحليلنا مخططات أخذ العينات المعتمدة على نطاق واسع بما في ذلك DDPM وDDIM، وتستفيد من متقاربات المقارنات للمعادلات التفاضلية بالإضافة إلى معادلة فوكKER-بلانك التي تصف تطور دالة كثافة الاحتمالية، والتي قد تكون ذات أهمية نظرية مستقلة.