هل نتعاون مع ما نصممه؟

أدى استخدام مصطلحات مثل "التعاون" و "زملاء العمل" لوصف التفاعلات بين البشر وبعض أنظمة الذكاء الاصطناعي (AI) إلى اكتساب شهرة كبيرة في السنوات الأخيرة. ومع ذلك، تظل مسألة ما إذا كانت مثل هذه الاستعارات البشرية توفر عدسة خصبة أو حتى محايدة تمامًا لتصور المنتجات التجارية المصممة مفتوحة للنقاش. بدلاً من ذلك، قد يتطلب احترام كرامة الإنسان ومبدأ الشفافية منا رسم فاصلة واضحة بين الأقران الحقيقيين والمزيفين. في قلب مفهوم التعاون يكمن الافتراض بأن الأطراف المتعاونة هي (أو تتصرف كما لو كانت) ذات مستوى مشابه: وكالتان قادرتان على أشكال مماثلة من العمل القصد، والوكالة الأخلاقية، أو المسؤولية الأخلاقية. عند تطبيق ذلك على أنظمة الذكاء الاصطناعي الحالية، يبدو أن هذا يفشل ليس فقط من الناحية الوجودية ولكن أيضًا من منظور اجتماعي سياسي. الذكاء الاصطناعي في مكان العمل هو في الأساس امتداد لرأس المال، وليس للعمل، و"زملاء العمل" الذكائيون لمعظم الأفراد سيكونون على الأرجح مملوكين ومدارين من قبل صاحب العمل. في هذه الورقة، نقوم بتقييم دقيق لكل من دقة وجاذبية استخدام مصطلح "التعاون" لوصف التفاعلات بين البشر وأنظمة الذكاء الاصطناعي. نبدأ من خلال اقتراح أنطولوجيا بديلة للتفاعل بين الإنسان والآلة، تتميز بعدم وجود وكالتين مستقلتين بشكل متساوٍ، بل آلة واحدة موجودة في علاقة غير استقلالية مع واحدة أو أكثر من الوكلاء البشر. من هذه الزاوية، بينما قد تمتلك الآلة درجة كبيرة من الاستقلالية بشأن الوسائل التي تحقق بها أهدافها، فإن الأهداف نفسها تُختار دائمًا بواسطة وكيل بشري واحد على الأقل، قد تختلف مصالحه عن تلك الخاصة بالأفراد الذين يتفاعلون مع الآلة. أخيرًا، ندرس الدوافع والمخاطر المترتبة على الاستخدام المستمر لمصطلح "التعاون"، مستكشفين علاقته المتوترة بمفهوم الشفافية، والنتائج المتعلقة بمستقبل العمل.