Transparența algoritmilor poate consolida încrederea în platformele digitale

Cererea tot mai mare de transparență în tehnologiile de inteligență artificială a determinat companiile și organizațiile să discute modalități de a face algoritmii mai auditabili. Potrivit IBM, capacitatea de a înțelege modul în care sistemele automate iau decizii este unul dintre pilonii pentru creșterea încrederii utilizatorilor și asigurarea unei mai mari responsabilități în utilizarea inteligenței artificiale. În acest context, posibilitatea ca X (fostul Twitter) să facă public codul algoritmului său de recomandare a reaprins dezbaterea despre transparență pe platformele digitale.

Deschiderea algoritmului ar permite cercetătorilor și dezvoltatorilor să analizeze funcționarea acestuia, să identifice potențiale prejudecăți și să contribuie la îmbunătățirea sa. Cu toate acestea, experții subliniază că această măsură reprezintă doar o parte a procesului, deoarece datele de antrenament, modelele de inteligență artificială, infrastructura și politicile de moderare rămân de obicei închise.

Potrivit lui Boris Kuszka, director tehnologic la Red Hat Brazilia, inițiativa se aliniază principiilor open source, care timp de decenii au susținut transparența ca mecanism de stimulare a inovației și încrederii. „Deschiderea algoritmului este în concordanță cu un principiu pe care open source-ul l-a apărat timp de decenii: transparența generează încredere, iar încrederea generează inovație. Atunci când codul devine auditabil, cercetătorii, dezvoltatorii independenți și comunitatea însăși înțeleg mai bine modul în care se iau deciziile, permițându-le să identifice prejudecățile și să contribuie la evoluția platformei”, explică el.

Experții subliniază că, deși impactul asupra utilizatorului final se va produce în principal în culise, o mai mare transparență poate aduce beneficii dezvoltatorilor, cercetătorilor și agenților de publicitate, oferind o mai mare previzibilitate cu privire la modul în care funcționează platforma. În plus, dezvoltarea open-source trebuie să fie însoțită de procese continue de revizuire și abordare a vulnerabilităților.

„Source-ul deschis, în sine, nu determină securitatea unui sistem. Diferența constă în timpul de răspuns al organizației, cu revizuire continuă a codului, remedieri rapide ale vulnerabilităților și colaborare activă cu comunitatea”, spune Kuszka. 

Dezbaterea urmează o tendință observată pe întreaga piață. Recent, IBM și Red Hat au anunțat Proiectul Lightwell, o inițiativă care vizează consolidarea securității ecosistemului open source prin inteligență artificială și colaborare între companii și comunitățile de software liber. Pentru Kuszka, mișcări de acest gen demonstrează că transparența, guvernanța și auditabilitatea tind să se consolideze ca factori strategici de diferențiere pentru platformele digitale și soluțiile bazate pe inteligență artificială.