LC SEC, konsulentfirma som spesialiserer seg på cybersikkerhet og samsvar med regelverk, advarer om den økende bruken av syntetisk innhold i digitale svindelforsøk. Bilder, videoer og stemmer produsert eller manipulert av kunstig intelligens har blitt integrert i strategier for svindel, villedende reklame og desinformasjon. I Brasil mer enn tredoblet spredningen av falskt innhold laget med AI seg mellom 2024 og 2025, med en vekst på 308 %, ifølge det første Panorama of Disinformation in Brazil, fra Lupa Observatory, som kartlegger trender, mål og hovedtaktikker for desinformasjon. Dette scenariet analyseres også av den nasjonale databeskyttelsesmyndigheten (ANPD) i Technological Radar nr. 6 – Deepfakes, en 163-siders studie som beskriver hvordan syntetisk innhold brukes i ulike typer svindel og brudd på rettigheter.
Et av bekymringspunktene som myndigheten har fremhevet, er bruken av deepfakes i sponsede annonser og promoterte kampanjer på sosiale medier. Ifølge dokumentet kan kriminelle bruke bildet eller stemmen til kjente personer til å lage falske tilbud, markedsføre innhold til segmenterte målgrupper og lede ofre til klonede nettsteder eller svindelplattformer der betalinger eller personlig informasjon blir forespurt.
ANPDs publisering kommer i en tid med fremskredne diskusjoner om ansvaret til digitale plattformer og behovet for mekanismer som kan redusere sirkulasjonen av ulovlig innhold. Rapporten tar også for seg bruken av deepfakes knyttet til økonomisk svindel, villedende reklame, desinformasjon om valg, kjønnsbasert politisk vold, rasisme og ikke-samtykkelig bruk av bilder, og viser at risikoen går utover nettsikkerhetsfeltet og når spørsmål om personvern, omdømme og tillit.
En av de brasilianske sakene som myndigheten har analysert, involverer deepfakes av kjendiser som brukes til å markedsføre ikke-eksisterende produkter. Ifølge rapporten identifiserte etterforskningen av den ansvarlige gjengen transaksjoner som oversteg 20 millioner rand. Den brasilianske nasjonale databeskyttelsesmyndigheten (ANPD) peker også på disse svindelforsøkenes evne til å operere i stor skala, med relativt små individuelle tap som, når de legges sammen, kan generere høy lønnsomhet for kriminelle.
FBI mottok for eksempel 22 364 klager knyttet til bruk av kunstig intelligens i svindel i 2025, med justerte tap på over 893,3 millioner dollar. Selskaper rapporterte mer enn 30 millioner dollar i tap knyttet til svindel med e-postkompromittering fra bedrifter som brukte en AI-komponent. World Economic Forums Global Cybersecurity Outlook 2026 indikerer at 73 % av respondentene var direkte berørt av eller kjente noen som var berørt av digital svindel i 2025, mens 87 % oppfattet en økning i sårbarheter knyttet til AI.
For Luiz Claudio, administrerende direktør og grunnlegger av LC SEC, krever fremgangen av deepfakes at selskaper behandler identitet og autentisering som sikkerhetselementer som ikke utelukkende kan avhenge av en persons utseende eller stemme. «Problemet er at tradisjonelle identitetsvalideringsprosesser ble bygget i et scenario der stemme, bilde og tilstedeværelse i en videokonferanse var relativt pålitelige signaler. Med utviklingen av kunstig intelligens kan disse elementene reproduseres. Bedrifter må lage uavhengige bekreftelsesmekanismer for kritiske beslutninger, spesielt når de involverer penger, tilgang til systemer eller sensitiv informasjon», sier han.
Digital annonsering og finanssektoren er blant områdene som er mest utsatt for denne typen svindel. I tillegg til å verifisere opprinnelsen og autorisasjonen for bruk av bilder og stemmer, må bedrifter ta i bruk ytterligere identitetsbekreftelsesmekanismer i sensitive operasjoner. Risikoen ble tydelig i en sak som involverte Arup, da kriminelle brukte syntetiske representasjoner av ledere i en videokonferanse og overbeviste en ansatt om å overføre omtrent 25 millioner dollar.
Ifølge eksperten er det grunnleggende å ta i bruk ytterligere lag med verifisering for å forhindre at syntetisk innhold brukes som eneste form for autentisering i sensitive operasjoner. «Organisasjoner kan ta i bruk bekreftelsesmekanismer gjennom uavhengige kanaler for operasjoner med høyere risiko. Betalingsforespørsler, endringer i bankdetaljer, dokumentdeling eller tilgangsrettigheter kan kreve en ny validering gjennom en tidligere kjent kanal, i tillegg til dobbel godkjenning, ansvarsdeling, sterk autentisering og revisjonslogger. Kombinasjonen av disse kontrollene reduserer muligheten for at en enkelt syntetisk representasjon vil være tilstrekkelig til å autorisere en kritisk handling», fremhever Luiz Claudio.
Dekret nr. 12 975 og nr. 12 976, publisert i mai 2026, utvidet ANPDs kompetanse angående styring, åpenhet, svindelforebygging og ulovlig innhold på plattformer. I valgmiljøet etablerte TSE-resolusjon nr. 23 755/2026 også regler for bruk av syntetisk innhold i reklame, inkludert identifikasjonskrav og begrensninger på bruk av bilder og stemmer til kandidater og offentlige personer.
Ifølge Luiz Claudiokrever bekjempelse av deepfakes en beskyttelsesstrategi som kombinerer teknologi, interne prosesser og ansattes bevissthet. «Teknologien for å generere syntetisk innhold utvikler seg raskt, og det er urealistisk å stole på ett enkelt verktøy for å identifisere alle deepfakes. Beskyttelse må fordeles på tvers av mennesker, prosesser og teknologi. Når et selskap etablerer klare regler for sensitive beslutninger, overvåker misbruk av merkevaren sin og forbereder ansatte på å stille spørsmål ved forespørsler utenfor vanlige kanaler, skaper det et ekstra lag med beskyttelse mot denne typen svindel», konkluderer han.
