एल्गोरिदम में पारदर्शिता डिजिटल प्लेटफार्मों में विश्वास को मजबूत कर सकती है।

कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों में पारदर्शिता की बढ़ती मांग ने कंपनियों और संगठनों को एल्गोरिदम को अधिक ऑडिट करने योग्य बनाने के तरीकों पर चर्चा करने के लिए प्रेरित किया है। आईबीएम, स्वचालित प्रणालियों के निर्णय लेने के तरीके को समझने की क्षमता, उपयोगकर्ता के विश्वास को बढ़ाने और एआई के उपयोग में अधिक जवाबदेही सुनिश्चित करने के प्रमुख स्तंभों में से एक है। इस संदर्भ में, एक्स (पूर्व में ट्विटर) द्वारा अपने अनुशंसा एल्गोरिदम के कोड को सार्वजनिक करने की संभावना ने डिजिटल प्लेटफार्मों पर पारदर्शिता को लेकर बहस को फिर से हवा दे दी है।

एल्गोरिदम को सार्वजनिक करने से शोधकर्ताओं और डेवलपर्स को इसकी कार्यप्रणाली का विश्लेषण करने, संभावित पूर्वाग्रहों की पहचान करने और इसके सुधार में योगदान देने में मदद मिलेगी। हालांकि, विशेषज्ञ इस बात पर जोर देते हैं कि यह उपाय प्रक्रिया का केवल एक हिस्सा है, क्योंकि प्रशिक्षण डेटा, एआई मॉडल, बुनियादी ढांचा और मॉडरेशन नीतियां आमतौर पर गोपनीय ही रहती हैं।.

रेड हैट ब्राज़ील के प्रौद्योगिकी निदेशक बोरिस कुज़्का के अनुसार, यह पहल ओपन सोर्स के सिद्धांतों के अनुरूप है, जो दशकों से नवाचार और विश्वास को बढ़ावा देने के लिए पारदर्शिता की वकालत करते रहे हैं। वे बताते हैं, “एल्गोरिदम की पारदर्शिता उस सिद्धांत के अनुरूप है जिसका ओपन सोर्स दशकों से समर्थन करता रहा है: पारदर्शिता से विश्वास उत्पन्न होता है, और विश्वास से नवाचार। जब कोड ऑडिट करने योग्य हो जाता है, तो शोधकर्ताओं, स्वतंत्र डेवलपर्स और स्वयं समुदाय को यह बेहतर समझ मिलती है कि निर्णय कैसे लिए जाते हैं, जिससे वे पूर्वाग्रहों की पहचान कर पाते हैं और प्लेटफ़ॉर्म के विकास में योगदान दे पाते हैं।”.

विशेषज्ञों का मानना ​​है कि हालांकि अंतिम उपयोगकर्ता पर इसका प्रभाव मुख्य रूप से पर्दे के पीछे ही पड़ेगा, लेकिन अधिक पारदर्शिता से डेवलपर्स, शोधकर्ताओं और विज्ञापनदाताओं को प्लेटफ़ॉर्म के काम करने के तरीके के बारे में अधिक पूर्वानुमान लगाने में मदद मिलेगी। इसके अलावा, ओपन-सोर्स विकास के साथ-साथ कमजोरियों की समीक्षा और समाधान के लिए निरंतर प्रक्रियाएं भी होनी चाहिए।.

"केवल ओपन सोर्स होने से ही किसी सिस्टम की सुरक्षा सुनिश्चित नहीं होती। फर्क संगठन की तत्परता में निहित है, जिसमें निरंतर कोड समीक्षा, कमजोरियों का त्वरित निवारण और समुदाय के साथ सक्रिय सहयोग शामिल है," कुज़्का कहते हैं।. 

यह बहस बाज़ार में देखी जा रही एक प्रवृत्ति का अनुसरण करती है। हाल ही में, आईबीएम और रेड हैट ने प्रोजेक्ट लाइटवेल की, जो कृत्रिम बुद्धिमत्ता और कंपनियों तथा मुक्त सॉफ़्टवेयर समुदायों के बीच सहयोग के माध्यम से ओपन सोर्स इकोसिस्टम की सुरक्षा को मजबूत करने के उद्देश्य से शुरू की गई एक पहल है। कुज़्का के अनुसार, इस तरह के प्रयास यह दर्शाते हैं कि पारदर्शिता, शासन और लेखापरीक्षा क्षमता डिजिटल प्लेटफॉर्म और एआई-आधारित समाधानों के लिए रणनीतिक अंतर के रूप में मजबूत होते जा रहे हैं।