الهلوسة كفشل في فرض القيود: الجاذبات الإدراكية وغياب التغذية الراجعة من درجة البقاء في الذكاء الاصطناعي

غالبًا ما تولّد أنظمة الذكاء الاصطناعي مخرجات سلسة ومتسقة داخلية لكنها في الحقيقة خاطئة. تُوصَف هذه الإخفاقات عادةً بأنها هلوسات وتُنسب إلى أخطاء في التحسين أو نواقص في البيانات أو فجوات في التوافق. تشير هذه الورقة إلى أن مثل هذه التفسيرات تُخطئ في تشخيص الظاهرة. بالاعتماد على أداة الشرح النقضي، تُحلل الهلوسة كنتيجة هيكلية لعدم استمرار القيود بشكل كافٍ. تنجح أنظمة الذكاء الاصطناعي في الإكمال الإدراكي مع افتقارها إلى آليات تغذية راجعة من درجة البقاء والتي من شأنها أن تجعل المخرجات الخاطئة مستحيلة. وكنتيجة لذلك، الهلوسة ليست فشلًا في الإدراك بل فشلًا في فرض القيود. تقدّم الورقة إطارًا رسميًا قائمًا على مجموعات قابلة للقيود والجاذبات الإدراكية، وتُظهر أن الهلوسة تظهر عندما تمتد الجاذبات الإدراكية خارج نطاق القيود المفروضة. يعمم هذا التحليل عبر الأنظمة الصناعية والبيولوجية وغير الحية. هذا العمل جزء من سلسلة YU-AI.