هندسة الذكاء الاصطناعي لضمان الاحتفاظ بالأهداف على مر الزمن

أجادل بأن ضمان احتفاظ الذكاء الاصطناعي (AI) بالتوافق مع القيم الإنسانية على مر الزمن أمر حاسم ولكنه غير مدروس بشكل كافٍ. تركز معظم الأبحاث على التوافق الثابت، متجاهلة الديناميكيات الحيوية التي تتيح الاستقرار أثناء التعلم والاستقلالية. توضح هذه الورقة القيود التي تحد من الاحتفاظ القابل للإثبات، مدعية أن الفجوات الأساسية تشمل تنظيم الديناميكيات، وشفافية الأنظمة المتقدمة، والتوسع المشارك، ومخاطر التحسين الذاتي المتكرر غير المنضبط. أدمج وجهات نظر تقنية وأخلاقية في إطار مفاهيمي قائم على نظرية التحكم والفلسفة لتحليل الديناميكيات. أجادل بأن الأولويات يجب أن تتجه نحو تعديل القدرات، والتصميم التشاركي، والنماذج المتقدمة للتحقق من التوافق المستمر. بشكل عام، أجادل بأن تحقيق ذكاء اصطناعي متوافق بشكل آمن طوال فترة حياته يتطلب ترجمة المبادئ إلى طرق رسمية، وعروض، وأنظمة تدمج الصرامة التقنية والإنسانية.