الثقة والشفافية في الذكاء الاصطناعي: أصوات الصناعة حول البيانات والأخلاقيات والامتثال

يوجه قانون الذكاء الاصطناعي في الاتحاد الأوروبي الشركات لتقييم أنظمة الذكاء الاصطناعي الخاصة بها لضمان تطويرها بطريقة تركز على الإنسان وموثوقة. لقد فاق التبني السريع للذكاء الاصطناعي في الصناعة الأطر الأخلاقية للتقييم، مما أدى إلى تحديات كبيرة في المساءلة، والحوكمة، وجودة البيانات، والإشراف البشري، والموثوقية التكنولوجية، والتأثيرات البيئية والاجتماعية. من خلال إجراء مقابلات مهيكلة مع خمسة عشر متخصصًا في الصناعة، جنبًا إلى جنب مع مراجعة أدبية أجريت على كل من النتائج الرئيسية للمقابلات، تحقق هذه الورقة في الأساليب والتحديات العملية في تطوير وتقييم الذكاء الاصطناعي الموثوق (TAI). تكشف النتائج من المشاركين في دراستنا، والمراجعات الأدبية اللاحقة، عن تعقيدات في إدارة المخاطر، والامتثال، والمسؤولية، التي تتفاقم بفعل نقص الشفافية، ومتطلبات تنظيمية غير واضحة، وتنفيذ متسرع للذكاء الاصطناعي. أبلغ المشاركون عن مخاوف من إمكانية تعريض الموثوقية التكنولوجية والسلامة للخطر بسبب عدم دقة النماذج، وثغرات أمنية، والاعتماد المفرط على الذكاء الاصطناعي دون وجود تدابير أمان مناسبة. بالإضافة إلى ذلك، فإن التأثيرات البيئية والاجتماعية السلبية للذكاء الاصطناعي، بما في ذلك استهلاك الطاقة العالي، والتطرف السياسي، وفقدان الثقافة، وتعزيز الفوارق الاجتماعية، هي مناطق تثير القلق. هناك حاجة ملحة ليس فقط لتخفيف المخاطر وتقييم TAI داخل أنظمة الذكاء الاصطناعي ولكن أيضًا لنهج أوسع لتطوير بيئة ذكاء اصطناعي تتماشى مع القيم الاجتماعية والثقافية للدول التي تتبنى هذه التقنيات.