يمكن أن تعزز الشفافية في الخوارزميات الثقة في المنصات الرقمية

أدى تزايد الطلب على الشفافية في تقنيات الذكاء الاصطناعي إلى دفع الشركات والمؤسسات لمناقشة سبل جعل الخوارزميات أكثر قابلية للتدقيق. ووفقًا لشركة IBM، فإن القدرة على فهم كيفية اتخاذ الأنظمة الآلية للقرارات تُعدّ إحدى الركائز الأساسية لتعزيز ثقة المستخدمين وضمان مزيد من المساءلة في استخدام الذكاء الاصطناعي. وفي هذا السياق، أعادت إمكانية قيام منصة X (تويتر سابقًا) بنشر شفرة خوارزمية التوصيات الخاصة بها إشعال النقاش حول الشفافية على المنصات الرقمية.

إنّ إتاحة الخوارزمية للباحثين والمطورين ستُمكّنهم من تحليل آليات عملها، وتحديد التحيزات المحتملة، والمساهمة في تحسينها. مع ذلك، يؤكد الخبراء أن هذا الإجراء لا يُمثّل سوى جزء من العملية، إذ تبقى بيانات التدريب ونماذج الذكاء الاصطناعي والبنية التحتية وسياسات الإشراف مغلقة في الغالب.

بحسب بوريس كوسكا، مدير التكنولوجيا في ريد هات البرازيل، تتوافق هذه المبادرة مع مبادئ المصادر المفتوحة، التي لطالما دعت إلى الشفافية كآلية لتحفيز الابتكار وبناء الثقة. ويوضح قائلاً: "تنسجم شفافية الخوارزمية مع مبدأ دافعت عنه المصادر المفتوحة لعقود: الشفافية تولد الثقة، والثقة تولد الابتكار. فعندما يصبح الكود قابلاً للتدقيق، يكتسب الباحثون والمطورون المستقلون والمجتمع نفسه فهمًا أفضل لكيفية اتخاذ القرارات، مما يمكّنهم من تحديد التحيزات والمساهمة في تطوير المنصة".

يؤكد الخبراء أنه على الرغم من أن التأثير على المستخدم النهائي سيحدث في المقام الأول خلف الكواليس، إلا أن زيادة الشفافية يمكن أن تفيد المطورين والباحثين والمعلنين من خلال توفير قدر أكبر من القدرة على التنبؤ بكيفية عمل المنصة. علاوة على ذلك، يجب أن يصاحب تطوير البرمجيات مفتوحة المصدر عمليات مستمرة لمراجعة ومعالجة الثغرات الأمنية.

"إن المصادر المفتوحة، في حد ذاتها، لا تحدد أمان النظام. يكمن الفرق في استجابة المنظمة، من خلال مراجعة الكود بشكل مستمر، وإصلاح الثغرات الأمنية بسرعة، والتعاون النشط مع المجتمع"، كما يقول كوسكا. 

يتماشى هذا النقاش مع اتجاه سائد في السوق. فقد أعلنت شركتا IBM وRed Hat مؤخرًا عن مشروع Lightwell، وهي مبادرة تهدف إلى تعزيز أمن بيئة البرمجيات مفتوحة المصدر من خلال الذكاء الاصطناعي والتعاون بين الشركات ومجتمعات البرمجيات الحرة. ويرى كوسكا أن مثل هذه التحركات تُظهر أن الشفافية والحوكمة وقابلية التدقيق تترسخ كعوامل تمييز استراتيجية للمنصات الرقمية والحلول القائمة على الذكاء الاصطناعي.