La transparència en els algoritmes pot enfortir la confiança en les plataformes digitals

La creixent demanda de transparència en les tecnologies d'intel·ligència artificial ha portat les empreses i organitzacions a discutir maneres de fer que els algoritmes siguin més auditables. Segons IBM, la capacitat d'entendre com els sistemes automatitzats prenen decisions és un dels pilars per augmentar la confiança dels usuaris i garantir una major responsabilitat en l'ús de la IA. En aquest context, la possibilitat que X (anteriorment Twitter) faci públic el codi del seu algorisme de recomanació ha revifat el debat sobre la transparència a les plataformes digitals.

Obrir l'algoritme permetria als investigadors i desenvolupadors analitzar-ne el funcionament, identificar possibles biaixos i contribuir a la seva millora. Tanmateix, els experts emfatitzen que aquesta mesura només representa una part del procés, ja que les dades d'entrenament, els models d'IA, la infraestructura i les polítiques de moderació solen romandre tancades.

Segons Boris Kuszka, director de tecnologia de Red Hat Brasil, la iniciativa s'alinea amb els principis del codi obert, que durant dècades han defensat la transparència com a mecanisme per impulsar la innovació i la confiança. "L'obertura de l'algoritme és coherent amb un principi que el codi obert ha defensat durant dècades: la transparència genera confiança i la confiança genera innovació. Quan el codi esdevé auditable, els investigadors, els desenvolupadors independents i la mateixa comunitat comprenen millor com es prenen les decisions, cosa que els permet identificar biaixos i contribuir a l'evolució de la plataforma", explica.

Els experts emfatitzen que, si bé l'impacte en l'usuari final es produirà principalment entre bastidors, una major transparència pot beneficiar els desenvolupadors, investigadors i anunciants en oferir més predictibilitat sobre com funciona la plataforma. A més, el desenvolupament de codi obert ha d'anar acompanyat de processos continus per revisar i abordar les vulnerabilitats.

«El codi obert, per si sol, no determina la seguretat d'un sistema. La diferència rau en la capacitat de resposta de l'organització, amb una revisió contínua del codi, correccions ràpides de vulnerabilitats i col·laboració activa amb la comunitat», diu Kuszka. 

El debat segueix una tendència observada a tot el mercat. Recentment, IBM i Red Hat van anunciar el Projecte Lightwell, una iniciativa destinada a enfortir la seguretat de l'ecosistema de codi obert mitjançant la intel·ligència artificial i la col·laboració entre empreses i comunitats de programari lliure. Per a Kuszka, moviments com aquest demostren que la transparència, la governança i l'auditabilitat tendeixen a consolidar-se com a diferenciadors estratègics per a les plataformes digitals i les solucions basades en IA.