Transparentnost algoritama može ojačati povjerenje u digitalne platforme

Rastuća potražnja za transparentnošću u tehnologijama umjetne inteligencije navela je tvrtke i organizacije da raspravljaju o načinima kako algoritme učiniti podložnijima reviziji. Prema IBM-u, sposobnost razumijevanja načina na koji automatizirani sustavi donose odluke jedan je od stupova za povećanje povjerenja korisnika i osiguranje veće odgovornosti u korištenju umjetne inteligencije. U tom kontekstu, mogućnost da X (prije Twitter) objavi kod svog algoritma za preporuke ponovno je potaknula raspravu o transparentnosti na digitalnim platformama.

Otvaranje algoritma omogućilo bi istraživačima i programerima da analiziraju njegov rad, identificiraju potencijalne pristranosti i doprinesu njegovom poboljšanju. Međutim, stručnjaci naglašavaju da ova mjera predstavlja samo dio procesa, budući da podaci za obuku, modeli umjetne inteligencije, infrastruktura i politike moderiranja obično ostaju zatvoreni.

Prema Borisu Kuszki, direktoru tehnologije u Red Hat Brazilu, inicijativa je u skladu s načelima otvorenog koda, koja desetljećima zagovaraju transparentnost kao mehanizam za poticanje inovacija i povjerenja. „Otvorenost algoritma u skladu je s načelom koje otvoreni kod brani desetljećima: transparentnost stvara povjerenje, a povjerenje stvara inovacije. Kada kod postane podložan reviziji, istraživači, neovisni programeri i sama zajednica stječu bolje razumijevanje načina donošenja odluka, što im omogućuje prepoznavanje pristranosti i doprinos evoluciji platforme“, objašnjava.

Stručnjaci naglašavaju da, iako će utjecaj na krajnjeg korisnika prvenstveno biti vidljiv iza kulisa, veća transparentnost može koristiti programerima, istraživačima i oglašivačima nudeći veću predvidljivost o tome kako platforma funkcionira. Nadalje, razvoj otvorenog koda mora biti popraćen kontinuiranim procesima za pregled i rješavanje ranjivosti.

„Otvoreni kod sam po sebi ne određuje sigurnost sustava. Razlika leži u brzini odziva organizacije, s kontinuiranim pregledom koda, brzim ispravcima ranjivosti i aktivnom suradnjom sa zajednicom“, kaže Kuszka. 

Rasprava prati trend koji se uočava na cijelom tržištu. Nedavno su IBM i Red Hat najavili Projekt Lightwell, inicijativu usmjerenu na jačanje sigurnosti ekosustava otvorenog koda putem umjetne inteligencije i suradnje između tvrtki i zajednica slobodnog softvera. Za Kuszku, pokreti poput ovog pokazuju da se transparentnost, upravljanje i mogućnost revizije obično konsolidiraju kao strateški diferencijalni elementi za digitalne platforme i rješenja temeljena na umjetnoj inteligenciji.