एल्गोरिदममा पारदर्शिताले डिजिटल प्लेटफर्महरूमा विश्वासलाई बलियो बनाउन सक्छ।

कृत्रिम बुद्धिमत्ता प्रविधिहरूमा पारदर्शिताको बढ्दो मागले कम्पनीहरू र संस्थाहरूलाई एल्गोरिदमहरूलाई अझ बढी लेखापरीक्षणयोग्य बनाउने तरिकाहरूबारे छलफल गर्न प्रेरित गरेको छ। IBM, स्वचालित प्रणालीहरूले कसरी निर्णयहरू गर्छन् भनेर बुझ्ने क्षमता प्रयोगकर्ताको विश्वास बढाउन र AI को प्रयोगमा बढी जवाफदेहिता सुनिश्चित गर्ने स्तम्भहरू मध्ये एक हो। यस सन्दर्भमा, X (पहिले ट्विटर) ले आफ्नो सिफारिस एल्गोरिथ्मको कोड सार्वजनिक गर्ने सम्भावनाले डिजिटल प्लेटफर्महरूमा पारदर्शिताको बारेमा बहसलाई पुन: चर्काएको छ।

एल्गोरिथ्म खोल्नाले अनुसन्धानकर्ताहरू र विकासकर्ताहरूलाई यसको कार्यप्रणालीको विश्लेषण गर्न, सम्भावित पूर्वाग्रहहरू पहिचान गर्न र यसको सुधारमा योगदान पुर्‍याउन अनुमति दिनेछ। यद्यपि, विज्ञहरूले जोड दिन्छन् कि यो उपाय प्रक्रियाको एक भाग मात्र हो, किनकि प्रशिक्षण डेटा, एआई मोडेलहरू, पूर्वाधार र मध्यस्थता नीतिहरू सामान्यतया बन्द रहन्छन्।.

रेड ह्याट ब्राजिलका प्रविधि निर्देशक बोरिस कुस्ज्काका अनुसार, यो पहल खुला स्रोतका सिद्धान्तहरूसँग मिल्दोजुल्दो छ, जसले दशकौंदेखि नवीनता र विश्वासलाई अगाडि बढाउने संयन्त्रको रूपमा पारदर्शिताको वकालत गर्दै आएको छ। "एल्गोरिथ्मको खुलापनले दशकौंदेखि खुला स्रोतले बचाउ गरेको सिद्धान्तसँग मेल खान्छ: पारदर्शिताले विश्वास उत्पन्न गर्छ, र विश्वासले नवीनता उत्पन्न गर्छ। जब कोड लेखापरीक्षण योग्य हुन्छ, अनुसन्धानकर्ताहरू, स्वतन्त्र विकासकर्ताहरू र समुदाय आफैंले निर्णयहरू कसरी गरिन्छ भन्ने बारे राम्रो बुझाइ प्राप्त गर्छन्, जसले गर्दा उनीहरूलाई पूर्वाग्रहहरू पहिचान गर्न र प्लेटफर्मको विकासमा योगदान गर्न सक्षम बनाउँछ," उनी बताउँछन्।.

विज्ञहरूले जोड दिन्छन् कि अन्तिम प्रयोगकर्तामा प्रभाव मुख्यतया पर्दा पछाडि हुने भए तापनि, प्लेटफर्मले कसरी काम गर्छ भन्ने बारेमा थप भविष्यवाणी प्रदान गरेर विकासकर्ताहरू, अनुसन्धानकर्ताहरू र विज्ञापनदाताहरूलाई बढी पारदर्शिताले फाइदा पुर्‍याउन सक्छ। यसबाहेक, खुला स्रोत विकासलाई समीक्षा र कमजोरीहरूलाई सम्बोधन गर्न निरन्तर प्रक्रियाहरूसँगै राख्नुपर्छ।.

"खुला स्रोतले आफैंमा प्रणालीको सुरक्षा निर्धारण गर्दैन। भिन्नता संस्थाको प्रतिक्रियाशीलतामा निहित छ, निरन्तर कोड समीक्षा, द्रुत कमजोरी समाधानहरू, र समुदायसँग सक्रिय सहकार्यको साथ," कुस्ज्का भन्छिन्।. 

यो बहस बजारभरि देखिएको प्रवृत्तिलाई पछ्याउँछ। हालै, IBM र Red Hat ले प्रोजेक्ट लाइटवेलको, जुन कृत्रिम बुद्धिमत्ता र कम्पनीहरू र नि:शुल्क सफ्टवेयर समुदायहरू बीचको सहकार्य मार्फत खुला स्रोत इकोसिस्टमको सुरक्षालाई सुदृढ पार्ने उद्देश्यले गरिएको पहल हो। कुस्ज्काको लागि, यस प्रकारका आन्दोलनहरूले पारदर्शिता, शासन र लेखा परीक्षण डिजिटल प्लेटफर्महरू र AI-आधारित समाधानहरूको लागि रणनीतिक भिन्नताहरूको रूपमा समेकित हुने प्रवृत्ति देखाउँछन्।