કૃત્રિમ બુદ્ધિ તકનીકોમાં પારદર્શિતાની વધતી માંગને કારણે કંપનીઓ અને સંગઠનો અલ્ગોરિધમ્સને વધુ ઓડિટેબલ બનાવવાની રીતો પર ચર્ચા કરવા પ્રેરિત થયા છે. IBM, ઓટોમેટેડ સિસ્ટમ્સ કેવી રીતે નિર્ણયો લે છે તે સમજવાની ક્ષમતા એ વપરાશકર્તાનો વિશ્વાસ વધારવા અને AI ના ઉપયોગમાં વધુ જવાબદારી સુનિશ્ચિત કરવા માટેનો એક આધારસ્તંભ છે. આ સંદર્ભમાં, X (અગાઉ ટ્વિટર) દ્વારા તેના ભલામણ અલ્ગોરિધમના કોડને જાહેર કરવાની શક્યતાએ ડિજિટલ પ્લેટફોર્મ પર પારદર્શિતા વિશેની ચર્ચાને ફરીથી જગાવી દીધી છે.
અલ્ગોરિધમ ખોલવાથી સંશોધકો અને વિકાસકર્તાઓ તેની કામગીરીનું વિશ્લેષણ કરી શકશે, સંભવિત પૂર્વગ્રહો ઓળખી શકશે અને તેના સુધારણામાં ફાળો આપી શકશે. જો કે, નિષ્ણાતો ભાર મૂકે છે કે આ માપ પ્રક્રિયાના માત્ર એક ભાગનું પ્રતિનિધિત્વ કરે છે, કારણ કે તાલીમ ડેટા, AI મોડેલ્સ, માળખાગત સુવિધાઓ અને મધ્યસ્થતા નીતિઓ સામાન્ય રીતે બંધ રહે છે.
રેડ હેટ બ્રાઝિલના ટેકનોલોજી ડિરેક્ટર બોરિસ કુસ્કાના જણાવ્યા અનુસાર, આ પહેલ ઓપન સોર્સના સિદ્ધાંતો સાથે સુસંગત છે, જે દાયકાઓથી નવીનતા અને વિશ્વાસને આગળ વધારવા માટે પારદર્શિતાની હિમાયત કરે છે. "એલ્ગોરિધમની ખુલ્લીતા એ સિદ્ધાંત સાથે સુસંગત છે જેનો ઓપન સોર્સ દાયકાઓથી બચાવ કરે છે: પારદર્શિતા વિશ્વાસ ઉત્પન્ન કરે છે, અને વિશ્વાસ નવીનતા ઉત્પન્ન કરે છે. જ્યારે કોડ ઓડિટેબલ બને છે, ત્યારે સંશોધકો, સ્વતંત્ર વિકાસકર્તાઓ અને સમુદાય પોતે નિર્ણયો કેવી રીતે લેવામાં આવે છે તેની વધુ સારી સમજ મેળવે છે, જેનાથી તેઓ પૂર્વગ્રહોને ઓળખી શકે છે અને પ્લેટફોર્મના ઉત્ક્રાંતિમાં યોગદાન આપી શકે છે," તે સમજાવે છે.
નિષ્ણાતો ભાર મૂકે છે કે જ્યારે અંતિમ વપરાશકર્તા પર અસર મુખ્યત્વે પડદા પાછળ થશે, ત્યારે વધુ પારદર્શિતા વિકાસકર્તાઓ, સંશોધકો અને જાહેરાતકર્તાઓને પ્લેટફોર્મ કેવી રીતે કાર્ય કરે છે તે વિશે વધુ આગાહી આપીને લાભ આપી શકે છે. વધુમાં, ઓપન-સોર્સ વિકાસને નબળાઈઓની સમીક્ષા અને સંબોધન માટે ચાલુ પ્રક્રિયાઓ સાથે રાખવાની જરૂર છે.
"ઓપન સોર્સ, પોતે જ, સિસ્ટમની સુરક્ષા નક્કી કરતું નથી. તફાવત સંસ્થાની પ્રતિભાવશીલતામાં રહેલો છે, જેમાં સતત કોડ સમીક્ષા, ઝડપી નબળાઈઓના સુધારા અને સમુદાય સાથે સક્રિય સહયોગનો સમાવેશ થાય છે," કુસ્ઝકા કહે છે.
આ ચર્ચા સમગ્ર બજારમાં જોવા મળતા વલણને અનુસરે છે. તાજેતરમાં, IBM અને Red Hat એ પ્રોજેક્ટ લાઇટવેલની, જે કંપનીઓ અને ફ્રી સોફ્ટવેર સમુદાયો વચ્ચે આર્ટિફિશિયલ ઇન્ટેલિજન્સ અને સહયોગ દ્વારા ઓપન સોર્સ ઇકોસિસ્ટમની સુરક્ષાને મજબૂત બનાવવાના હેતુથી એક પહેલ છે. કુસ્ઝ્કા માટે, આ પ્રકારની હિલચાલ દર્શાવે છે કે પારદર્શિતા, શાસન અને ઓડિટબિલિટી ડિજિટલ પ્લેટફોર્મ અને AI-આધારિત ઉકેલો માટે વ્યૂહાત્મક ભિન્નતા તરીકે એકીકૃત થવાનું વલણ ધરાવે છે.
