कृत्रिम बुद्धिमत्ता तंत्रज्ञानामध्ये पारदर्शकतेच्या वाढत्या मागणीमुळे कंपन्या आणि संस्था अल्गोरिदम अधिक तपासण्यायोग्य बनवण्याच्या मार्गांवर चर्चा करत आहेत. आयबीएमच्या, स्वयंचलित प्रणाली निर्णय कसे घेतात हे समजून घेण्याची क्षमता, वापरकर्त्याचा विश्वास वाढवण्यासाठी आणि एआयच्या वापरात अधिक उत्तरदायित्व सुनिश्चित करण्यासाठीच्या स्तंभांपैकी एक आहे. या संदर्भात, एक्स (पूर्वीचे ट्विटर) आपल्या शिफारस अल्गोरिदमचा कोड सार्वजनिक करण्याच्या शक्यतेने डिजिटल प्लॅटफॉर्मवरील पारदर्शकतेबद्दलच्या चर्चेला पुन्हा एकदा तोंड फुटले आहे.
अल्गोरिदम खुला केल्याने संशोधकांना आणि विकासकांना त्याच्या कार्यपद्धतीचे विश्लेषण करणे, संभाव्य पूर्वग्रह ओळखणे आणि त्याच्या सुधारणेत योगदान देणे शक्य होईल. तथापि, तज्ञ यावर जोर देतात की ही उपाययोजना प्रक्रियेचा केवळ एक भाग आहे, कारण प्रशिक्षण डेटा, एआय मॉडेल्स, पायाभूत सुविधा आणि नियंत्रण धोरणे सामान्यतः बंदच राहतात.
रेड हॅट ब्राझीलचे तंत्रज्ञान संचालक, बोरिस कुस्का यांच्या मते, हा उपक्रम ओपन सोर्सच्या तत्त्वांशी सुसंगत आहे, ज्याने अनेक दशकांपासून नावीन्य आणि विश्वास वाढवण्यासाठी एक यंत्रणा म्हणून पारदर्शकतेचे समर्थन केले आहे. “अल्गोरिदमची खुलेपणा ही ओपन सोर्सने अनेक दशकांपासून जपलेल्या एका तत्त्वाशी सुसंगत आहे: पारदर्शकतेमुळे विश्वास निर्माण होतो आणि विश्वासातून नावीन्य निर्माण होते. जेव्हा कोड तपासण्यायोग्य बनतो, तेव्हा संशोधक, स्वतंत्र डेव्हलपर्स आणि स्वतः समुदायाला निर्णय कसे घेतले जातात याची अधिक चांगली समज येते, ज्यामुळे त्यांना पूर्वग्रह ओळखता येतात आणि प्लॅटफॉर्मच्या उत्क्रांतीमध्ये योगदान देता येते,” असे ते स्पष्ट करतात.
तज्ज्ञ यावर जोर देतात की, अंतिम वापरकर्त्यावरील परिणाम जरी प्रामुख्याने पडद्यामागेच होणार असला तरी, अधिक पारदर्शकतेमुळे प्लॅटफॉर्म कसे कार्य करते याबद्दल अधिक पूर्वानुमेयता मिळून डेव्हलपर्स, संशोधक आणि जाहिरातदारांना फायदा होऊ शकतो. याव्यतिरिक्त, ओपन-सोर्स डेव्हलपमेंटसोबत असुरक्षिततांचे पुनरावलोकन आणि निराकरण करण्यासाठी निरंतर प्रक्रिया असणे आवश्यक आहे.
"केवळ ओपन सोर्समुळेच सिस्टमची सुरक्षितता ठरत नाही. खरा फरक संस्थेच्या प्रतिसादक्षमतेत असतो, ज्यात सतत कोड रिव्ह्यू, त्रुटींचे जलद निराकरण आणि समुदायासोबत सक्रिय सहकार्य यांचा समावेश असतो," असे कुझ्का म्हणतात.
ही चर्चा संपूर्ण बाजारपेठेत दिसून येणाऱ्या एका प्रवृत्तीचाच भाग आहे. अलीकडेच, आयबीएम (IBM) आणि रेड हॅटने (Red Hat) 'प्रोजेक्ट लाइटवेल'ची (Project Lightwell. कंपन्या आणि मुक्त सॉफ्टवेअर समुदायांमधील कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजन्स) आणि सहकार्याच्या माध्यमातून ओपन सोर्स इकोसिस्टमची सुरक्षा मजबूत करणे, हा या उपक्रमाचा उद्देश आहे. कुझ्का यांच्या मते, अशा प्रकारच्या घडामोडी हे दर्शवतात की पारदर्शकता, प्रशासन आणि लेखापरीक्षणक्षमता हे डिजिटल प्लॅटफॉर्म आणि एआय-आधारित सोल्यूशन्ससाठी धोरणात्मक भेदक घटक म्हणून अधिक दृढ होत आहेत.
