Konzultačná firma LC SEC špecializujúca sa na kybernetickú bezpečnosť a dodržiavanie predpisov varuje pred rastúcim používaním syntetického obsahu v digitálnych podvodoch. Obrázky, videá a hlasy vytvorené alebo manipulované umelou inteligenciou sa stali súčasťou stratégií podvodov, klamlivej reklamy a dezinformácií. V Brazílii sa šírenie falošného obsahu vytvoreného pomocou umelej inteligencie medzi rokmi 2024 a 2025 viac ako strojnásobilo s nárastom o 308 %, uvádza sa v prvej štúdii Panorámy dezinformácií v Brazílii, ktorú vypracovalo Observatórium Lupa a ktorá mapuje trendy, ciele a hlavné taktiky dezinformácií. Tento scenár analyzuje aj Národný úrad pre ochranu údajov (ANPD) v štúdii Technologický radar č. 6 – Deepfakes, ktorá podrobne popisuje, ako sa syntetický obsah používa v rôznych typoch podvodov a porušovania práv.
Jedným z problémov, ktoré úrad zdôraznil, je používanie deepfakeov v sponzorovaných reklamách a propagačných kampaniach na sociálnych sieťach. Podľa dokumentu môžu zločinci použiť obraz alebo hlas známych ľudí na vytváranie falošných ponúk, propagáciu obsahu segmentovanému publiku a nasmerovanie obetí na klonované webové stránky alebo podvodné platformy, kde sa vyžadujú platby alebo osobné údaje.
Publikácia ANPD prichádza v čase postupujúcich diskusií o zodpovednosti digitálnych platforiem a potrebe mechanizmov schopných znížiť šírenie nezákonného obsahu. Správa sa tiež zaoberá používaním deepfakeov súvisiacich s finančnými podvodmi, zavádzajúcou reklamou, volebnými dezinformáciami, rodovo podmieneným politickým násilím, rasizmom a nekonsenzuálnym používaním obrázkov, čo ukazuje, že riziká presahujú oblasť kybernetickej bezpečnosti a zasahujú do otázok súkromia, reputácie a dôvery.
Jeden z brazílskych prípadov, ktoré úrad analyzoval, sa týka deepfakeov celebrít používaných na propagáciu neexistujúcich produktov. Podľa správy vyšetrovanie zodpovedného gangu identifikovalo transakcie presahujúce 20 miliónov realov. Brazílsky národný úrad pre ochranu údajov (ANPD) tiež upozorňuje na schopnosť týchto podvodov fungovať vo veľkom rozsahu s relatívne malými individuálnymi stratami, ktoré spolu môžu pre zločincov generovať vysokú ziskovosť.
Napríklad FBI dostala v roku 2025 22 364 sťažností súvisiacich s používaním umelej inteligencie pri podvodoch, pričom upravené straty presiahli 893,3 milióna USD. Spoločnosti hlásili straty vo výške viac ako 30 miliónov USD súvisiace s podvodmi s kompromitáciou firemných e-mailov, ktoré využívali niektorú z komponentov umelej inteligencie. Správa Svetového ekonomického fóra o globálnom výhľade kybernetickej bezpečnosti na rok 2026 uvádza, že 73 % respondentov bolo v roku 2025 priamo postihnutých alebo poznalo niekoho, koho digitálne podvody zasiahli, zatiaľ čo 87 % vnímalo nárast zraniteľností spojených s umelou inteligenciou.
Podľa Luiza Claudia, generálneho riaditeľa a zakladateľa spoločnosti LC SEC, pokrok v oblasti deepfakes vyžaduje, aby spoločnosti zaobchádzali s identitou a autentifikáciou ako s bezpečnostnými prvkami, ktoré nemôžu závisieť výlučne od vzhľadu alebo hlasu osoby. „Problém je v tom, že tradičné procesy overovania identity boli vytvorené v scenári, kde hlas, obraz a prítomnosť vo videokonferencii boli relatívne spoľahlivými signálmi. S vývojom umelej inteligencie je možné tieto prvky reprodukovať. Spoločnosti musia vytvoriť nezávislé potvrdzovacie mechanizmy pre kritické rozhodnutia, najmä ak sa týkajú peňazí, prístupu k systémom alebo citlivých informácií,“ uvádza.
Digitálna reklama a finančný sektor patria medzi oblasti, ktoré sú tomuto typu podvodu najviac vystavené. Okrem overovania pôvodu a autorizácie na používanie obrázkov a hlasov musia spoločnosti v citlivých operáciách prijať ďalšie mechanizmy potvrdzovania identity. Riziko sa ukázalo v prípade spoločnosti Arup, keď zločinci použili syntetické reprezentácie manažérov vo videokonferencii a presvedčili zamestnanca, aby previedol približne 25 miliónov USD.
Podľa experta je prijatie ďalších vrstiev overovania nevyhnutné na zabránenie používania syntetického obsahu ako jedinej formy overovania v citlivých operáciách. „Organizácie môžu pre operácie s vyšším rizikom prijať potvrdzovacie mechanizmy prostredníctvom nezávislých kanálov. Žiadosti o platbu, zmeny bankových údajov, zdieľanie dokumentov alebo udelenie prístupu môžu vyžadovať druhé overenie prostredníctvom predtým známeho kanála, okrem dvojitého schválenia, oddelenia povinností, silného overovania a audítorských protokolov. Kombinácia týchto kontrol znižuje možnosť, že na autorizáciu kritickej akcie bude stačiť jedno syntetické vyhlásenie,“ zdôrazňuje Luiz Claudio.
Dekréty č. 12 975 a 12 976, zverejnené v máji 2026, rozšírili kompetencie ANPD v oblasti riadenia, transparentnosti, predchádzania podvodom a nezákonného obsahu na platformách. V volebnom prostredí uznesenie TSE č. 23 755/2026 tiež stanovilo pravidlá pre používanie syntetického obsahu v reklame vrátane požiadaviek na identifikáciu a obmedzení používania obrázkov a hlasov kandidátov a verejne známych osôb.
Podľa Luiza Claudiasi boj proti deepfakes vyžaduje stratégiu ochrany, ktorá kombinuje technológie, interné procesy a povedomie zamestnancov. „Technológia na generovanie syntetického obsahu sa rýchlo vyvíja a je nereálne spoliehať sa na jeden nástroj na identifikáciu všetkých deepfakov. Ochrana musí byť rozdelená medzi ľudí, procesy a technológie. Keď spoločnosť stanoví jasné pravidlá pre citlivé rozhodnutia, monitoruje zneužívanie svojej značky a pripraví zamestnancov na kladenie žiadostí mimo bežných kanálov, vytvára ďalšiu vrstvu ochrany pred týmto typom podvodu,“ uzatvára.
