LC SEC, konzultantska tvrtka specijalizirana za kibernetičku sigurnost i usklađenost, upozorava na sve veću upotrebu sintetičkog sadržaja u digitalnim prijevarama. Slike, videozapisi i glasovi koje proizvodi ili manipulira umjetna inteligencija integrirani su u strategije za prijevaru, obmanjujuće oglašavanje i dezinformacije. U Brazilu se širenje lažnog sadržaja stvorenog umjetnom inteligencijom više nego utrostručilo između 2024. i 2025. godine, s rastom od 308%, prema prvoj Panorami dezinformacija u Brazilu, koju je izradio Opservatorij Lupa, a koja mapira trendove, ciljeve i glavne taktike dezinformacija. Ovaj scenarij analizira i Nacionalno tijelo za zaštitu podataka (ANPD) u Tehnološkom radaru br. 6 – Deepfakes, studiji od 163 stranice koja detaljno opisuje kako se sintetički sadržaj koristi u različitim vrstama prijevara i kršenja prava.
Jedna od zabrinjavajućih točaka koje je istaknulo tijelo je korištenje deepfakeova u sponzoriranim oglasima i kampanjama na društvenim mrežama. Prema dokumentu, kriminalci mogu koristiti sliku ili glas poznatih osoba za stvaranje lažnih ponuda, promociju sadržaja segmentiranoj publici i usmjeravanje žrtava na klonirane web stranice ili lažne platforme gdje se traže plaćanja ili osobni podaci.
Objava ANPD-a dolazi u vrijeme naprednih rasprava o odgovornostima digitalnih platformi i potrebi za mehanizmima koji mogu smanjiti cirkulaciju ilegalnog sadržaja. Izvješće se također bavi primjenom deepfakeova povezanih s financijskim prijevarama, obmanjujućim oglašavanjem, izbornim dezinformacijama, političkim nasiljem temeljenim na spolu, rasizmom i nepristranim korištenjem slika, pokazujući da rizici nadilaze područje kibernetičke sigurnosti i dosežu pitanja privatnosti, ugleda i povjerenja.
Jedan od brazilskih slučajeva koje je analiziralo tijelo uključuje deepfakeove poznatih osoba korištene za promociju nepostojećih proizvoda. Prema izvješću, istraga odgovorne bande identificirala je transakcije veće od 20 milijuna brazilskih reala. Brazilsko nacionalno tijelo za zaštitu podataka (ANPD) također skreće pozornost na sposobnost ovih prijevara da djeluju u velikim razmjerima, s relativno malim pojedinačnim gubicima koji, kada se zbroje, mogu generirati visoku profitabilnost za kriminalce.
FBI je, na primjer, primio 22.364 pritužbe povezane s korištenjem umjetne inteligencije u prijevarama u 2025. godini, s prilagođenim gubicima većim od 893,3 milijuna američkih dolara. Tvrtke su prijavile više od 30 milijuna američkih dolara gubitaka povezanih s prijevarama kompromitiranja korporativne e-pošte koje su koristile neku komponentu umjetne inteligencije. Globalni izgledi za kibernetičku sigurnost Svjetskog ekonomskog foruma za 2026. godinu pokazuju da je 73% ispitanika bilo izravno pogođeno ili je poznavalo nekoga tko je pogođen digitalnom prijevarom u 2025. godini, dok je 87% uočilo porast ranjivosti povezanih s umjetnom inteligencijom.
Za Luiza Claudija, izvršnog direktora i osnivača LC SEC-a, napredak deepfakeova zahtijeva od tvrtki da identitet i autentifikaciju tretiraju kao sigurnosne elemente koji ne mogu ovisiti isključivo o izgledu ili glasu osobe. „Problem je u tome što su tradicionalni procesi validacije identiteta izgrađeni u scenariju u kojem su glas, slika i prisutnost u video konferenciji bili relativno pouzdani signali. Razvojem umjetne inteligencije, ti se elementi mogu reproducirati. Tvrtke moraju stvoriti neovisne mehanizme potvrde za kritične odluke, posebno kada se radi o novcu, pristupu sustavima ili osjetljivim informacijama“, navodi.
Digitalno oglašavanje i financijski sektor među su područjima koja su najizloženija ovoj vrsti prijevare. Osim provjere podrijetla i autorizacije za korištenje slika i glasova, tvrtke moraju usvojiti dodatne mehanizme potvrde identiteta u osjetljivim operacijama. Rizik je postao očit u slučaju koji uključuje Arup, kada su kriminalci koristili sintetičke prikaze rukovoditelja u video konferenciji i uvjerili zaposlenika da prebaci približno 25 milijuna američkih dolara.
Prema riječima stručnjaka, usvajanje dodatnih slojeva provjere ključno je za sprječavanje korištenja sintetičkog sadržaja kao jedinog oblika autentifikacije u osjetljivim operacijama. „Organizacije mogu usvojiti mehanizme potvrde putem neovisnih kanala za operacije s većim rizikom. Zahtjevi za plaćanje, promjene bankovnih podataka, dijeljenje dokumenata ili odobravanje pristupa mogu zahtijevati drugu validaciju putem prethodno poznatog kanala, uz dvostruko odobrenje, podjelu dužnosti, snažnu autentifikaciju i zapisnike revizije. Kombinacija ovih kontrola smanjuje mogućnost da će jedan sintetički prikaz biti dovoljan za autorizaciju kritične radnje“, ističe Luiz Claudio.
Uredbe br. 12.975 i br. 12.976, objavljene u svibnju 2026., proširile su nadležnosti ANPD-a u vezi s upravljanjem, transparentnošću, sprječavanjem prijevara i ilegalnim sadržajem na platformama. U izbornom okruženju, Rezolucija TSE br. 23.755/2026 također je utvrdila pravila za korištenje sintetičkog sadržaja u oglašavanju, uključujući zahtjeve za identifikaciju i ograničenja korištenja slika i glasova kandidata i javnih osoba.
Prema Luizu Claudiu, borba protiv deepfakeova zahtijeva strategiju zaštite koja kombinira tehnologiju, interne procese i svijest zaposlenika. „Tehnologija za generiranje sintetičkog sadržaja brzo se razvija i nerealno je oslanjati se na jedan alat za identifikaciju svih deepfakeova. Zaštita mora biti raspoređena među ljudima, procesima i tehnologijom. Kada tvrtka uspostavi jasna pravila za osjetljive odluke, prati zlouporabu svog brenda i pripremi zaposlenike da postavljaju zahtjeve izvan uobičajenih kanala, stvara još jedan sloj zaštite od ove vrste prijevare“, zaključuje.
