Id-domanda dejjem tikber għat-trasparenza fit-teknoloġiji tal-intelliġenza artifiċjali wasslet lill-kumpaniji u lill-organizzazzjonijiet biex jiddiskutu modi kif jagħmlu l-algoritmi aktar verifikabbli. Skont l -IBM, il-kapaċità li wieħed jifhem kif is-sistemi awtomatizzati jieħdu deċiżjonijiet hija wieħed mill-pilastri biex tiżdied il-fiduċja tal-utenti u tiġi żgurata responsabbiltà akbar fl-użu tal-IA. F'dan il-kuntest, il-possibbiltà li X (li qabel kienet Twitter) tagħmel il-kodiċi tal-algoritmu ta' rakkomandazzjoni tagħha pubbliku reġgħet qanqlet id-dibattitu dwar it-trasparenza fuq pjattaformi diġitali.
Il-ftuħ tal-algoritmu jippermetti lir-riċerkaturi u lill-iżviluppaturi janalizzaw il-funzjonament tiegħu, jidentifikaw preġudizzji potenzjali, u jikkontribwixxu għat-titjib tiegħu. Madankollu, l-esperti jenfasizzaw li din il-miżura tirrappreżenta biss parti mill-proċess, peress li d-dejta tat-taħriġ, il-mudelli tal-IA, l-infrastruttura, u l-politiki ta' moderazzjoni tipikament jibqgħu magħluqa.
Skont Boris Kuszka, id-Direttur tat-Teknoloġija f’Red Hat Brazil, l-inizjattiva hija allinjata mal-prinċipji tas-sors miftuħ, li għal għexieren ta’ snin ilhom jappoġġjaw it-trasparenza bħala mekkaniżmu biex imexxu ’l quddiem l-innovazzjoni u l-fiduċja. “Il-ftuħ tal-algoritmu huwa konsistenti ma’ prinċipju li s-sors miftuħ iddefenda għal għexieren ta’ snin: it-trasparenza tiġġenera l-fiduċja, u l-fiduċja tiġġenera l-innovazzjoni. Meta l-kodiċi jsir verifikabbli, ir-riċerkaturi, l-iżviluppaturi indipendenti, u l-komunità nnifisha jiksbu fehim aħjar ta’ kif jittieħdu d-deċiżjonijiet, u dan jippermettilhom jidentifikaw il-preġudizzji u jikkontribwixxu għall-evoluzzjoni tal-pjattaforma,” jispjega.
L-esperti jenfasizzaw li filwaqt li l-impatt fuq l-utent aħħari se jseħħ primarjament wara l-kwinti, trasparenza akbar tista' tkun ta' benefiċċju għall-iżviluppaturi, ir-riċerkaturi, u dawk li jirreklamaw billi toffri aktar prevedibbiltà dwar kif taħdem il-pjattaforma. Barra minn hekk, l-iżvilupp open-source jeħtieġ li jkun akkumpanjat minn proċessi kontinwi għar-reviżjoni u l-indirizzar tal-vulnerabbiltajiet.
“Is-sors miftuħ, waħdu, ma jiddeterminax is-sigurtà ta’ sistema. Id-differenza tinsab fir-rispons tal-organizzazzjoni, b’reviżjoni kontinwa tal-kodiċi, tiswijiet rapidi tal-vulnerabbiltajiet, u kollaborazzjoni attiva mal-komunità,” jgħid Kuszka.
Id-dibattitu jsegwi xejra osservata fis-suq kollu. Riċentement, IBM u Red Hat ħabbru l-Proġett Lightwell, inizjattiva mmirata lejn it-tisħiħ tas-sigurtà tal-ekosistema open source permezz tal-intelliġenza artifiċjali u l-kollaborazzjoni bejn il-kumpaniji u l-komunitajiet tas-softwer b'xejn. Għal Kuszka, movimenti bħal dan juru li t-trasparenza, il-governanza, u l-awditjar għandhom it-tendenza li jikkonsolidaw bħala differenzjaturi strateġiċi għal pjattaformi diġitali u soluzzjonijiet ibbażati fuq l-IA.
