Transparentnost algoritama može ojačati povjerenje u digitalne platforme

Rastuća potražnja za transparentnošću u tehnologijama vještačke inteligencije navela je kompanije i organizacije da razgovaraju o načinima da algoritme učine podložnijim reviziji. Prema IBM-u, sposobnost razumijevanja kako automatizovani sistemi donose odluke jedan je od stubova za povećanje povjerenja korisnika i osiguranje veće odgovornosti u korištenju vještačke inteligencije. U tom kontekstu, mogućnost da X (ranije Twitter) objavi kod svog algoritma za preporuke ponovo je pokrenula debatu o transparentnosti na digitalnim platformama.

Otvaranje algoritma omogućilo bi istraživačima i programerima da analiziraju njegov rad, identificiraju potencijalne pristranosti i doprinesu njegovom poboljšanju. Međutim, stručnjaci naglašavaju da ova mjera predstavlja samo dio procesa, jer podaci za obuku, modeli umjetne inteligencije, infrastruktura i politike moderiranja obično ostaju zatvoreni.

Prema riječima Borisa Kuszke, direktora za tehnologiju u Red Hat Brazilu, inicijativa je u skladu s principima otvorenog koda, koji decenijama zagovaraju transparentnost kao mehanizam za podsticanje inovacija i povjerenja. „Otvorenost algoritma je u skladu s principom koji otvoreni kod brani decenijama: transparentnost generira povjerenje, a povjerenje generira inovacije. Kada kod postane podložan reviziji, istraživači, nezavisni programeri i sama zajednica stiču bolje razumijevanje načina donošenja odluka, što im omogućava da identifikuju pristranosti i doprinesu evoluciji platforme“, objašnjava on.

Stručnjaci naglašavaju da, iako će se utjecaj na krajnjeg korisnika prvenstveno odvijati iza kulisa, veća transparentnost može koristiti programerima, istraživačima i oglašivačima nudeći veću predvidljivost o tome kako platforma funkcionira. Nadalje, razvoj otvorenog koda mora biti praćen kontinuiranim procesima za pregled i rješavanje ranjivosti.

„Otvoreni kod, sam po sebi, ne određuje sigurnost sistema. Razlika leži u brzini odziva organizacije, sa kontinuiranim pregledom koda, brzim ispravkama ranjivosti i aktivnom saradnjom sa zajednicom“, kaže Kuszka. 

Debata prati trend koji se primjećuje na cijelom tržištu. Nedavno su IBM i Red Hat najavili Projekt Lightwell, inicijativu usmjerenu na jačanje sigurnosti ekosistema otvorenog koda putem umjetne inteligencije i saradnje između kompanija i zajednica slobodnog softvera. Za Kuszku, pokreti poput ovog pokazuju da transparentnost, upravljanje i mogućnost revizije imaju tendenciju konsolidacije kao strateški diferencijalni faktori za digitalne platforme i rješenja zasnovana na umjetnoj inteligenciji.