Algorismes invisibles: IA de màrqueting digital i desigualtats de gènere

Quan una dona obre xarxes socials, què decideixen mostrar-la els algoritmes? Segons un estudi de màster de la Universitat MUST (Florida, EUA), la resposta revela un patró preocupant: el contingut sobre bellesa, moda i consum domina el feed femení, mentre que temes com la carrera, la tecnologia i les finances apareixen amb molta menys freqüència que per als homes.

La investigació ¤L'ús del màrqueting digital com a instrument d'empoderament femení, desenvolupat per la periodista Monica Kulcsar com a Treball de Finalització del Màster en Màrqueting Digital, va escoltar 134 dones i va creuar dades sobre comportament algorítmic, biaixos d'intel·ligència artificial i percepció femenina de l'entorn digital.

Els resultats plantegen una pregunta central per a la indústria: si les plataformes digitals reforcen sistemàticament els rols de gènere a través dels seus sistemes automatitzats, quina és la responsabilitat de les marques i els venedors que utilitzen aquestes eines?

El biaix que revelen les dades

Entre els participants, 79.9% creu que els algorismes de plataforma tracten homes i dones de manera desigual.Més dient: només 3% està totalment d'acord que les dones es mostren de manera realista en campanyes, que sovint porten recomanacions de contingut a les dones més centrades en l'aparença i el consum que en la carrera i la tecnologia (79.3%).

“Els algorismes s'entrenen a partir de dades històriques, i aquestes dades porten dècades d'estereotips de gènere. Quan un sistema aprèn d'aquest passat, tendeix a reproduir-lo i sovint l'amplifica, explica la Mònica.

El fenomen, descrit a la literatura com a biaix algorítmic, té implicacions que van més enllà de les xarxes socials. Els estudis acadèmics citats a la investigació indiquen que els sistemes d'aprenentatge automàtic poden penalitzar determinades paraules en els processos de contractació, reduir la visibilitat de les dones en els anuncis de vacants de lideratge i orientar les oportunitats de crèdit i financeres de manera desigual per gènere.

Autonomia aparent: la trampa de personalització

Un dels conceptes centrals de la recerca és el de ^00pearent autonomityethoven: el sentit de llibertat d’elecció que experimenten els usuaris en plataformes digitals, però que, a la pràctica, està condicionat per estructures algorítmiques invisibles que guien comportaments, desitjos i percepcions.

Aplicat a l’univers femení, això vol dir que les dones poden creure que estan escollint lliurement el contingut que consumeixen, quan en realitat l’entorn digital s’ha calibrat per dirigir-los a determinats temes i allunyar-los dels altres.

“¤Empoderament digital ha de ser examinat acuradament.Platforms ofereixen visibilitat però també emmarcar el que és visible.Si l'algoritme decideix que les dones han de veure més contingut sobre dietes i menys sobre inversions, està reforçant en silenci una estructura de desigualtat d'explosions, va dir.

Les dones veuen una manca d'ètica

Les dades que potser més criden l’atenció dels equips de màrqueting i tecnologia són el nivell de percepció crítica dels participants. La majoria de les dones escoltades en l’enquesta, amb un alt nivell d’educació i un intens accés diari a les xarxes socials, demostren consciència sobre la mediació algorítmica de les seves experiències.

Tot i assenyalar els problemes, els enquestats no rebutgen la tecnologia: reconeixen els beneficis de la personalització digital i valoren les marques que l'utilitzen d'una manera ètica, transparent i sensible al gènere.

Per a la investigadora, això és un clar senyal d’oportunitat. ^7Hi ha un públic femení informat, crític i disposat a relacionar-se amb marques que utilitzen la tecnologia de manera responsable.El repte i oportunitat per al sector és desenvolupar estratègies que funcionin amb algoritmes, no contra les dones.“

El que això requereix de les marques i plataformes

La recerca apunta a camins concrets. Entre les recomanacions que sorgeixen de les dades, destaquem les auditories periòdiques dels sistemes de segmentació per identificar biaixos de gènere; la diversitat en els equips de desenvolupament d'IA i curació de continguts; l'adopció de criteris ètics en la definició de públics i en l'elecció de formats; i transparència amb els usuaris sobre com s'utilitzen les seves dades.

“^0Una campanya bonica al març no és suficient. El compromís amb l'apoderament femení s'ha d'integrar en decisions tècniques, models de dades i cultura organitzativa. En cas contrari, la tecnologia que hauria d'ampliar l'autonomia de les dones resulta ser un altre obstacle, conclou Monica.