Usynlige algoritmer: AI af digital markedsføring og uligheder mellem kønnene

Når en kvinde åbner sociale netværk, hvad beslutter algoritmer sig for at vise hende? Ifølge en masterundersøgelse fra MUST University (Florida, USA) afslører svaret et bekymrende mønster: indhold om skønhed, mode og forbrug dominerer det kvindelige foder, mens emner som karriere, teknologi og finans optræder meget sjældnere end for mænd.

Forskningen “Brugen af digital markedsføring som et instrument til kvindelig empowerment”, udviklet af journalisten Monica Kulcsar som et færdiggørelsesarbejde af Master of Science i Digital Marketing, lyttede til 134 kvinder og krydsreferencede data om algoritmisk adfærd, kunstig intelligens skævheder og kvindelig opfattelse af det digitale miljø.

Resultaterne rejser et centralt spørgsmål for industrien: Hvis digitale platforme systematisk styrker kønsroller gennem deres automatiserede systemer, hvad er ansvaret for brands og marketingfolk, der bruger disse værktøjer?

Den skævhed, som dataene afslører

Blandt deltagerne mener 79.9%, at platformalgoritmer behandler mænd og kvinder ulige.Mere sigende: kun 3% er helt enige om, at kvinder realistisk vises i kampagner, som ofte bringer indholdsanbefalinger til kvinder mere fokuseret på udseende og forbrug end på karriere og teknologi (79.3%).

“Algoritmer trænes fra historiske data, og disse data bærer årtiers kønsstereotyper.Når et system lærer af denne fortid, har det en tendens til at reproducere det og ofte forstærke det, forklarer Monica.

Fænomenet, der i litteraturen beskrives som algoritmisk bias, har implikationer, der går ud over sociale netværk. Akademiske undersøgelser citeret i forskningen indikerer, at maskinlæringssystemer kan straffe visse ord i rekrutteringsprocesser, reducere synligheden af kvinder i ledighedsannoncer og målrette kredit- og økonomiske muligheder ujævnt efter køn.

Tilsyneladende autonomi: personaliseringsfælden

Et af forskningens centrale begreber er “tilsyneladende autonomi”: den følelse af valgfrihed, som brugerne oplever på digitale platforme, men som i praksis er betinget af usynlige algoritmiske strukturer, der styrer adfærd, ønsker og opfattelser.

Anvendt på det kvindelige univers betyder det, at kvinder kan tro, at de frit vælger det indhold, de forbruger, mens det digitale miljø i virkeligheden er blevet kalibreret til at lede dem til bestemte emner og flytte dem væk fra andre.

“Digital empowerment skal undersøges omhyggeligt.Platforme tilbyder synlighed, men også ramme, hvad der er visible.If algoritmen beslutter, at kvinder skal se mere indhold om kostvaner og mindre om investeringer, er det stille forstærkende en struktur af” ulighed, sagde hun.

Kvinder ser mangel på etik

De data, der måske mest henleder opmærksomheden på marketing- og teknologihold, er niveauet af kritisk opfattelse af deltagerne. De fleste kvinder, der høres i undersøgelsen, med højt uddannelsesniveau og intens daglig adgang til sociale netværk, demonstrerer bevidsthed om den algoritmiske formidling af deres oplevelser.

Mens de påpeger problemerne, afviser respondenterne ikke teknologi: de anerkender fordelene ved digital personalisering og værdsætter brands, der bruger det på en etisk, gennemsigtig og kønsfølsom datastyringsmåde.

For forskeren er dette et klart tegn på muligheder. “Der er et informeret, kritisk og villig kvindeligt publikum til at forholde sig til mærker, der bruger teknologi ansvarligt.Udfordringen og muligheden for sektoren er at udvikle strategier, der arbejder med algoritmer, ikke mod kvinder.”

Hvad dette kræver af brands og platforme

Forskningen peger på konkrete veje. Blandt de anbefalinger, der kommer ud af dataene, fremhæver vi de regelmæssige revisioner af segmenteringssystemer for at identificere kønsbias; mangfoldigheden i AI-udviklings- og indholdskurationsteams; vedtagelse af etiske kriterier i definitionen af målgrupper og i valget af formater; og gennemsigtighed med brugerne om, hvordan deres data bruges.

“En smuk kampagne i marts er ikke nok. Forpligtelse til kvindelig empowerment skal indlejres i tekniske beslutninger, datamodeller og organisationskultur. Ellers viser teknologi, der skal udvide kvinders autonomi, sig at være en anden” hindring, slutter Monica.